La función de notificación de IA de Apple genera controversia por resúmenes de noticias engañosos.

Apple se encuentra en el centro de la controversia tras el lanzamiento de una nueva función de inteligencia artificial generativa en su actualización de iOS 18.2, que tiene como objetivo resumir las notificaciones para los usuarios. Esta función, diseñada para proporcionar una visión rápida de la información, ha sido criticada por representar de manera inexacta las alertas de noticias de medios de comunicación de renombre. Las inexactitudes han llevado a organizaciones como Reporteros Sin Fronteras a pedir a Apple que elimine la función por completo. Han surgido informes que detallan al menos dos errores significativos en los resúmenes de la función. En un caso notable, una notificación fue resumida incorrectamente, afirmando que la BBC había informado que el sospechoso Luigi Mangione se había quitado la vida. Esta afirmación no solo era falsa, sino también engañosa, ya que Mangione está vivo y fue extraditado a Nueva York recientemente. En otro caso, el resumen tergiversó un artículo del New York Times, sugiriendo que el primer ministro israelí Benjamin Netanyahu había sido arrestado. En realidad, el artículo detallaba una orden emitida por la Corte Penal Internacional para el arresto de Netanyahu, una distinción crítica que la IA no logró captar. Las repercusiones de tales inexactitudes van más allá de una simple mala comunicación; atacan el corazón de la integridad periodística. Vincent Berthier, jefe de la sección de tecnología y periodismo de Reporteros Sin Fronteras, enfatizó los peligros que plantea la desinformación automatizada. "Las IA son máquinas de probabilidad, y los hechos no pueden ser decididos por un lanzamiento de dados", comentó. Su declaración subraya cómo la distribución de información falsa, especialmente cuando se atribuye a fuentes de medios de comunicación confiables, socava su credibilidad y amenaza el acceso del público a información fiable. La BBC también ha expresado sus preocupaciones, indicando que ha presentado una queja a Apple en respuesta a las inexactitudes. Un portavoz de la BBC declaró: "Es esencial para nosotros que nuestras audiencias puedan confiar en cualquier información o periodismo publicado en nuestro nombre, y eso incluye las notificaciones." Este sentimiento refleja la creciente inquietud entre las organizaciones de noticias respecto al potencial de la tecnología de IA para tergiversar hechos y contribuir a la propagación de desinformación. A medida que continúa la reacción en contra, tanto Apple como las organizaciones de medios involucradas se han mantenido relativamente calladas, sin proporcionar comentarios inmediatos en respuesta a las crecientes preocupaciones. La situación plantea preguntas importantes sobre el papel de la tecnología en el periodismo y la responsabilidad de empresas como Apple para garantizar que sus funciones no engañen a los usuarios, especialmente en lo que respecta a eventos noticiosos críticos. Las implicaciones de este incidente van más allá del gigante tecnológico, provocando una discusión más amplia sobre la ética de la IA en la cobertura de noticias y la necesidad de un control estricto. A medida que Apple navega por este paisaje tumultuoso, la demanda de transparencia y responsabilidad en el uso de herramientas de IA para la difusión de información probablemente se volverá más fuerte, subrayando la necesidad de un equilibrio cuidadoso entre la innovación y la fiabilidad en la era digital.