OpenAI, la empresa que desarrolló la popular herramienta ChatGPT, cree que la intervención de los gobiernos será fundamental para mitigar los riesgos de los sistemas de inteligencia artificial (IA).
Sam Altman sugirió la creación de una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes.
“A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vida. Nosotros también lo estamos”, comentó Sam Altman, director general de OpenAI, en una comparecencia este martes ante el Senado estadounidense.
Altman sugirió que se creara una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes y tuviera autoridad para “retirar esa licencia y garantizar el cumplimiento de las normas de seguridad”.
El auge del ChatGPT, que ha desatado el pánico entre los educadores por el uso que le dan numerosos estudiantes para hacer trampas en los exámenes, ha generado nuevas preocupaciones sobre la capacidad de esta poderosa herramienta de “IA generativa” para engañar a la gente, difundir falsedades, violar la protección de los derechos de autor y poner en peligro algunos puestos de trabajo.
El senador demócrata Richard Blumenthal, que preside el Subcomité de privacidad, tecnología y legislación del Comité Judicial del Senado, dijo que las empresas de IA deberían estar obligadas a probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos al mercado, y expresó su especial preocupación por cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral.
Aunque no hay indicios inmediatos de que el Congreso estadounidense vaya a elaborar nuevas normas generales sobre IA, el Parlamento Europeo aprobó el pasado jueves medidas para regular su uso. La legislación será tratada en un pleno en junio para acordar la versión definitiva del nuevo reglamento.
Altman se mostró en gran medida de acuerdo. Cuando se le preguntó por su peor temor respecto a la IA, el empresario comentó que dicha industria podría causar “un daño significativo al mundo” y que “si esta tecnología sale mal, puede salir muy mal”. Sin embargo, propuso que una nueva agencia reguladora impusiera salvaguardas que bloquearan los modelos de IA que pudieran “autorreplicarse y autoexfiltrarse en la naturaleza”, aludiendo a preocupaciones futuristas sobre sistemas avanzados de IA que pudieran manipular las decisiones de los humanos.
Sam Altman es un empresario y emprendedor tecnológico estadounidense. Se hizo conocido por su papel como presidente de Y Combinator, una prestigiosa incubadora de startups con sede en Silicon Valley. Altman se unió a Y Combinator en 2011 y se convirtió en presidente en 2014, liderando y asesorando a numerosas startups emergentes.
Además de su trabajo en Y Combinator, Altman es conocido por su participación en proyectos y empresas tecnológicas. Ha invertido en varias startups exitosas, incluyendo Reddit, Airbnb y Stripe, y ha sido consejero de empresas como OpenAI, donde actualmente ocupa el cargo de director ejecutivo (CEO) desde 2019.
Altman es reconocido por su visión empresarial y su compromiso con el avance de la tecnología y la innovación. Ha abogado por el desarrollo de la inteligencia artificial de manera ética y responsable, así como por el fomento del emprendimiento y la creación de nuevas empresas. Su experiencia y liderazgo en la industria tecnológica le han otorgado una posición destacada en el campo de la innovación y el emprendimiento.