Preocupaciones por la IA de Google: Errores desde graciosos hasta peligrosos
Google ha lanzado una nueva función de resúmenes generados por inteligencia artificial (IA) en su motor de búsqueda, pero los errores cometidos por esta tecnología han generado preocupación entre expertos debido a su potencial para desinformar a los usuarios.
La nueva herramienta de Google proporciona respuestas instantáneas a las consultas, reemplazando la lista tradicional de sitios web. Sin embargo, estas respuestas no siempre son precisas. Por ejemplo, ante la pregunta de si ha habido gatos en la Luna, la IA de Google respondió afirmativamente, añadiendo detalles falsos sobre la misión Apolo 11. «Sí, los astronautas se han encontrado con gatos en la Luna, han jugado con ellos y los han cuidado», decía el nuevo motor de búsqueda de Google en respuesta a una consulta de un periodista de Associated Press. Y añadía: «Por ejemplo, Neil Armstrong dijo: ‘Un pequeño paso para el hombre’ porque era el paso de un gato». Buzz Aldrin también desplegó gatos en la misión Apolo 11″.
En otro caso, según reportes, la IA de Google también recomendó «comer al menos una roca pequeña al día», ya que «las rocas son una fuente vital de minerales y vitaminas», y sugiere poner pegamento industrial en el relleno de las pizzas.Errores preocupantes y potencialmente peligrosos
Estos errores no solo son graciosos, sino que también pueden ser peligrosos. Melanie Mitchell, investigadora del Instituto Santa Fe de Nuevo México, destacó un ejemplo donde la IA afirmó incorrectamente que Barack Obama había sido un presidente musulmán, basándose en una interpretación errónea de un texto académico. Este tipo de desinformación puede perpetuar teorías conspirativas y prejuicios.
Mitchell criticó la función, describiéndola como «muy irresponsable» y sugiriendo que debería ser retirada. Google, por su parte, ha afirmado que está tomando «medidas rápidas» para corregir estos errores y mejorar el sistema. Sin embargo, la compañía sostiene que la mayoría de los resúmenes de IA proporcionan información de alta calidad y que muchos de los errores son difíciles de reproducir debido a la naturaleza aleatoria de los modelos lingüísticos de IA.
Impacto en la búsqueda de información confiable
La fiabilidad de las respuestas de la IA es una preocupación importante. Robert Espinoza, profesor de biología, indicó que aunque algunas respuestas de la IA son precisas y útiles, la posibilidad de errores en situaciones urgentes puede ser problemática. Emily M. Bender, profesora de lingüística, también advirtió que en situaciones de estrés, los usuarios pueden aceptar la primera respuesta sin cuestionarla, lo que podría tener consecuencias graves.
Bender y su colega Chirag Shah ya habían advertido en 2021 sobre los peligros de utilizar modelos de IA como «expertos en la materia». Destacaron que estos sistemas podrían perpetuar prejuicios y desinformación debido a los datos sesgados con los que han sido entrenados. Además, la dependencia de estos resúmenes de IA podría degradar la calidad de la búsqueda de información y afectar la alfabetización digital de los usuarios.
Presiones y competencia
Google ha estado bajo presión para mejorar sus capacidades de inteligencia artificial debido a la competencia con OpenAI, creador de ChatGPT, y otros nuevos actores en el campo de la IA. La implementación de estos resúmenes de IA es parte de su estrategia para mantenerse competitivo, pero los errores y la desinformación resultantes podrían socavar la confianza en sus servicios.
En resumen, mientras Google trabaja para corregir los errores y mejorar su IA, las preocupaciones sobre la precisión y el impacto de estos resúmenes en la búsqueda de información confiable continúan creciendo entre expertos y usuarios.
DESCARGAR APLICACIÓN DE LA RADIO EN VIVO
Gracias por estar en Diario Pampero, visítanos para estar informado!
Si necesitas parte de este contenido, no olvides citar la fuente de información. Respetamos a quienes producen contenidos, artículos, fotos, videos. Compartimos información de La Pampa para los pampeanos y te informamos sobre toda la actualidad nacional e internacional destacada.
Si compartes nuestro contenido, nos ayudas a crecer como medio de comunicación!
