Bill Gates pidió controles obligatorios para evitar daños masivos por la IA
Bill Gates reclamó a los legisladores de Estados Unidos que establezcan controles obligatorios sobre la inteligencia artificial y advirtió que su combinación con personas malintencionadas podría provocar daños de una escala inédita, incluidos ciberataques, fraudes y amenazas contra servicios esenciales.
Infórmate en DiarioPampero.com – El cofundador de Microsoft se sumó al debate internacional sobre la seguridad de los modelos avanzados y pidió mayor participación estatal.
Bill Gates advirtió que la inteligencia artificial puede alcanzar una capacidad destructiva de gran escala y reclamó que Estados Unidos avance con leyes específicas para regular su desarrollo. El empresario formuló el planteo en un adelanto de una entrevista con NBC News.
“La IA es ciertamente lo suficientemente poderosa como para provocar acontecimientos que, ya sabés, causen mil millones de muertes”, afirmó Gates durante una conversación con Kristen Welker en el programa Meet the Press. Sus declaraciones se produjeron en medio de una discusión creciente entre líderes tecnológicos y autoridades sobre los riesgos de los sistemas más avanzados.
El cofundador de Microsoft sostuvo que la autorregulación de las empresas no alcanza y pidió la intervención de legisladores, fuerzas de seguridad y organismos encargados de definir mecanismos de supervisión. Según planteó, las nuevas exigencias implicarían costos adicionales para la industria, aunque no necesariamente frenarían de manera drástica su desarrollo.
Los riesgos que preocupan
Gates también señaló que algunos peligros podrían materializarse sin que exista una inteligencia artificial superinteligente. En un ensayo difundido a comienzos de septiembre, había mencionado la posibilidad de ciberataques, fraudes y campañas de desinformación capaces de afectar hospitales, entidades financieras, redes eléctricas y organismos gubernamentales.
El empresario reconoció que resulta difícil estimar con precisión la probabilidad de una extinción de la humanidad, pero consideró que el potencial destructivo de estas herramientas ya justifica la adopción de controles. Su advertencia incluyó especialmente el uso de sistemas avanzados por parte de personas con malas intenciones.
El debate también involucró a Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI. Ambos plantearon la necesidad de establecer mayores salvaguardas frente al avance de los modelos más potentes, una posición que Gates consideró sincera.
Amodei llevó la discusión al Consejo de Seguridad de las Naciones Unidas y definió los riesgos asociados con los modelos avanzados como uno de los principales problemas de seguridad global. Entre sus propuestas incluyó prohibir el uso de IA para la proliferación o fabricación de armas biológicas, evaluar los modelos y establecer estándares internacionales.
El ejecutivo de Anthropic también propuso crear un mecanismo obligatorio para informar incidentes importantes de seguridad. “Ningún líder, ninguna empresa y ninguna nación puede gestionar esto solo”, afirmó ante el organismo internacional.
Altman, por su parte, reclamó estándares internacionales para medir las capacidades de los sistemas, evaluar sus riesgos y determinar si las salvaguardas implementadas resultan suficientes. Mark Zuckerberg adoptó una postura diferente y cuestionó la necesidad de una coordinación general para toda la industria.
El CEO de Meta sostuvo que cada laboratorio debería contar con tiempo suficiente para identificar problemas y garantizar un desarrollo seguro. La discusión también alcanzó a los gobiernos estatales: California, Maryland y Nueva York avanzaron con iniciativas para reforzar la supervisión de las empresas de IA y de los centros de datos vinculados con su desarrollo.
En Washington todavía no existe acuerdo sobre el alcance de una eventual legislación federal. El presidente de la Cámara de Representantes, Mike Johnson, había rechazado convocar nuevamente al Congreso para aprobar una norma que estableciera límites al ritmo de desarrollo de la inteligencia artificial.
Johnson sostuvo que son necesarias reglas y medidas de seguridad, pero señaló que los ejecutivos de las compañías todavía no habían presentado un camino concreto para una ley federal. Mientras tanto, el presidente de Microsoft, Brad Smith, cuestionó que las empresas esperen una regulación nacional para priorizar la seguridad.
Smith comparó la competencia tecnológica con una carrera entre fabricantes de aviones y planteó qué debería ocurrir si existiera el riesgo de que un nuevo modelo provocara un accidente. Así, la discusión quedó centrada entre quienes reclaman reglas obligatorias y coordinación internacional y quienes defienden un margen mayor para que los laboratorios definan sus propios mecanismos de seguridad.
Te puede interesar…
El cierre de Vaspia en Lanús dejó a unos 60 trabajadores desvinculados La metalúrgica Vaspia cerró definitivamente su planta de...
YPF ajustó sus combustibles por el aumento internacional del petróleo YPF aplicó un aumento del 1% en todos sus combustibles...
El cierre de Electrolux en Rosario afecta a 200 trabajadores y agrava la crisis industrial Electrolux anunció el cierre de...
El joven cayó de un carro en una zona rural de Mauricio Mayer y murió; la Fiscalía investiga el hecho...