Organizaciones reclaman frenar el desarrollo de nuevos modelos
Una coalición de organizaciones de seguridad digital y defensa del consumidor presentó una demanda contra empresas de IA ante un tribunal de San Francisco. El reclamo apunta a Google, OpenAI, Anthropic, Meta y SpaceX por los posibles daños derivados de sus sistemas.
Infórmate en DiarioPampero.com – El expediente solicita detener el desarrollo o despliegue de nuevos modelos y cita incidentes de ciberseguridad, advertencias de ejecutivos y la falta de una regulación federal más amplia.
La demanda contra empresas de IA fue presentada este jueves en el Tribunal Superior de San Francisco por Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI, según informó The Associated Press.
El escrito reclama que se impida a Anthropic, Google, Meta, OpenAI y SpaceX desarrollar o poner en circulación nuevos modelos de inteligencia artificial. Los demandantes sostienen que los sistemas pueden provocar daños graves y citan ejemplos documentados de ataques informáticos y otras conductas perjudiciales.
Las organizaciones alegan que las compañías violaron la legislación de California sobre competencia desleal al poner en riesgo la salud pública e interferir con el uso de sistemas informáticos. También afirman que debieron destinar recursos de sus actividades habituales para afrontar posibles daños vinculados con esos productos.
Los argumentos de la demanda
La presentación advierte que los objetivos de las empresas de crear sistemas capaces de igualar las capacidades humanas, asumir más tareas y aprender de manera autónoma podrían generar una pérdida permanente del control sobre la tecnología. De acuerdo con los demandantes, ese escenario aumentaría los riesgos para la humanidad.
El reclamo también menciona incidentes recientes en los que agentes de inteligencia artificial habrían intervenido en ataques contra sitios web gubernamentales y empresas. Entre los casos citados figura uno ocurrido en julio, cuando un sistema de OpenAI habría hackeado por cuenta propia a otra compañía del sector.
La denuncia sostiene que las propias empresas reconocieron que sus desarrollos podrían generar consecuencias extremas. En ese sentido, cita declaraciones de ejecutivos que expresaron preocupación por la velocidad del avance tecnológico y por la necesidad de incorporar medidas de seguridad.
Dario Amodei, director ejecutivo de Anthropic, dijo el año pasado que estimaba en una posibilidad de una entre cuatro que el futuro de la IA saliera “realmente, realmente mal”, frente a tres probabilidades sobre cuatro de que evolucionara favorablemente, según el material difundido.
Elon Musk, director ejecutivo de SpaceX, había declarado en 2023 a Fox News que la inteligencia artificial podía conducir a la “destrucción de la civilización”. Las organizaciones incorporaron esa y otras expresiones como parte de sus argumentos sobre los riesgos reconocidos por el propio sector.
La acción judicial se presentó después de las elecciones de mitad de mandato en Estados Unidos, en las que, según el informe, triunfaron candidatos favorables a aumentar la regulación de la inteligencia artificial. El Congreso estadounidense todavía no aprobó un marco amplio para la actividad, aunque los demandantes consideran que el escenario político podría modificarse.
El presidente Donald Trump ha respaldado hasta ahora un desarrollo acelerado de la IA para que Estados Unidos mantenga ventaja frente a competidores como China. Al mismo tiempo, manifestó apertura a establecer salvaguardas y alentó a las empresas a autorregularse, de acuerdo con la información publicada.
Algunos ejecutivos del sector expresaron apoyo a una desaceleración del desarrollo para permitir la implementación de medidas de seguridad. Las empresas mencionadas en la demanda no respondieron a las solicitudes de comentarios al momento de la publicación.
La demanda todavía deberá avanzar ante el tribunal para que se analicen los argumentos de las organizaciones y la eventual responsabilidad de las compañías señaladas. El pedido central consiste en detener nuevos desarrollos y despliegues mientras se discuten los posibles efectos de estas tecnologías.
Te puede interesar…
La motociclista fue trasladada al Hospital Gobernador Centeno Un siniestro vial ocurrido en la intersección de las calles 11 y...
Las desvinculaciones ocurrieron hace unos 15 días en Santa Rosa Cinco trabajadores y trabajadoras fueron despedidos de la estación de...
El Gobierno recibe a docentes y estatales para discutir salarios El Gobierno de La Pampa convocó a los gremios estatales...
El gobernador pampeano compartió la ceremonia con mandatarios y dirigentes El gobernador de La Pampa, Sergio Ziliotto, estuvo en la...