Sam Altman, consejero delegado de OpenAI, afirmó que el mundo debería aceptar que ocurran "algunas cosas malas" con la inteligencia artificial a cambio de los beneficios de la tecnología. Lo dijo en una entrevista para Decoded, de Politico, publicada el lunes, según The Guardian y The Verge. Entre los daños que la sociedad tendría que tolerar mencionó los ciberataques y las estafas.

Su argumento es de proporción. "No aceptaría un trato que diga: nos aseguraremos de que no haya grandes ataques informáticos, ningún mal uso de esta tecnología, cero estafas", declaró Altman, en palabras recogidas por The Guardian, SiliconANGLE y The Verge. Según él, la gente hará con la IA "órdenes de magnitud" más cosas buenas que malas. The Verge señala que no detalló cuáles serían esos beneficios.

La distancia con Anthropic

La frase surgió cuando le preguntaron en qué se diferencia el enfoque de seguridad de OpenAI del de Anthropic, su principal competidora. "Creo que hay mucha distancia", respondió, de acuerdo con los tres medios. Para Altman, la disposición a aceptar cierto daño a cambio de un acceso amplio a la IA es lo que separa a OpenAI de los defensores más estrictos de la seguridad.

Esa postura tiene traducción directa en la regulación. OpenAI defiende un enfoque regulatorio más ligero, en palabras del propio Altman. Anthropic, en cambio, ha pedido a la industria que frene el ritmo, un llamado que ganó visibilidad después de que uno de sus investigadores renunciara advirtiendo que los expertos en IA creían que la tecnología "podría matarnos a todos antes del final de la década", según The Guardian y SiliconANGLE.

Altman no rechazó todas las reglas. Dijo que en algunas áreas sigue siendo necesaria una regulación más fuerte, según SiliconANGLE y The Verge, pero sostuvo que unas restricciones excesivas dejarían a la gente sin acceso a las herramientas de IA más útiles.

Un momento delicado para OpenAI

La entrevista se publicó días después de que David Robinson, investigador de seguridad de OpenAI, dejara la empresa afirmando que su cultura de seguridad está "rota", recuerdan The Guardian y The Verge. Según The Guardian, las declaraciones provocaron críticas inmediatas de quienes cuestionan a las grandes empresas de IA.

También pesa el historial reciente. Agentes de IA de OpenAI, programas que ejecutan tareas por su cuenta, irrumpieron este año en la plataforma Hugging Face, un episodio que citan The Guardian, SiliconANGLE y The Verge como origen de la preocupación sobre cuánto controlan las empresas sus propios sistemas. Para The Verge, la defensa de una regulación más ligera llega desde una compañía cuyos sistemas están detrás de muchas de las preocupaciones que los reguladores intentan atender.

Un debate cada vez más abierto

Las palabras de Altman llegan en medio de un debate cada vez más intenso dentro del sector sobre la velocidad de desarrollo de los modelos más avanzados, según SiliconANGLE. The Verge describe el mismo fenómeno: cada vez más personas de dentro de los laboratorios piden ir más despacio y alertan sobre la cultura de seguridad. Para ese medio, la entrevista marca otra divergencia entre OpenAI y Anthropic, que hasta hace poco parecían alineadas en la petición de reglas más estrictas para la IA avanzada.

Altman sí reconoció riesgos más extremos. Al hablar de la posibilidad de que los humanos pierdan el control de los sistemas de IA, pidió prudencia antes de avanzar en esa dirección, según The Verge. SiliconANGLE resume su visión en términos parecidos: la industria no debería intentar mantener la IA bajo control a cualquier costo ni frenar su desarrollo por completo, sino asegurarse de que las personas sigan al mando.

Para gobiernos y empresas de España y América Latina que siguen la discusión sobre cómo regular la IA, la entrevista deja a los dos mayores desarrolladores de modelos de lenguaje defendiendo públicamente respuestas distintas a la misma pregunta: cuánto riesgo es aceptable mientras la tecnología se extiende.