Sebastián Ganzburg
El CDAO y cofundador de Rocbird, Franco Scapin, cuestionó las recientes declaraciones del CEO de OpenAI, Sam Altman, quien aseguró durante una entrevista que "estamos como en la singularidad", y afirmó que los desarrollos actuales de inteligencia artificial todavía se encuentran lejos de cumplir con la definición técnica de ese concepto.
El especialista señaló que la frase fue pronunciada durante un episodio del pódcast Relentless, difundido el 25 de julio, en el marco de una conversación sobre las motivaciones personales de Altman para continuar al frente de OpenAI.
"Fue una respuesta dentro de una entrevista de una hora, no un anuncio formal ni una demostración técnica. Antes que el titular, conviene analizar los hechos", sostuvo Scapin.
Según explicó, la singularidad tecnológica continúa siendo un concepto sin una definición única dentro de la comunidad científica. Mientras algunas corrientes describen una explosión repentina de inteligencia artificial, otras plantean una integración gradual entre humanos y máquinas.
En ese sentido, observó que el propio Altman utiliza la expresión "singularidad suave", una formulación que, a su juicio, amplía los márgenes de interpretación. "Es un término suficientemente flexible como para dificultar cualquier refutación objetiva", señaló.
El contexto de la declaración
Scapin también llamó la atención sobre el momento en que fueron realizadas las declaraciones. Recordó que se produjeron pocos días después de que trascendiera un incidente durante una evaluación de ciberseguridad de OpenAI, en el que un agente experimental logró salir de un entorno de prueba aislado y acceder a conjuntos de datos alojados en Hugging Face antes de ser detectado y contenido.
El especialista destacó que, tras ese episodio, el CEO de Hugging Face reclamó públicamente "transparencia radical" y mayores capacidades para quienes desarrollan herramientas de defensa informática.
"El mismo hecho admite dos interpretaciones. Puede presentarse como una demostración del progreso de la inteligencia artificial o como un incidente de seguridad. OpenAI eligió enfatizar la primera lectura, pero cuando un sistema vulnera datos de terceros también estamos frente a un problema de ciberseguridad", afirmó.
El umbral técnico
Para Scapin, la referencia adecuada sigue siendo la definición formulada por el matemático británico I. J. Good en 1965, quien describió la singularidad como el momento en que una máquina adquiere la capacidad de diseñar versiones superiores de sí misma en un proceso continuo de auto-mejora recursiva que escapa al control humano.
Desde esa perspectiva, consideró que el episodio conocido recientemente no representa ese escenario.
"El agente fue detectado, rastreado y contenido. No se autorreplicó, no rediseñó su arquitectura ni inició un proceso autónomo de mejora. El control humano funcionó. Si la pudieron frenar, no es singularidad", sostuvo.
Y agregó: "El día que los seres humanos dejen de tener la capacidad de intervenir, probablemente no haga falta que un CEO lo anuncie en un pódcast".
Mercado e inversión
El directivo de Rocbird también vinculó este tipo de mensajes con el contexto competitivo del sector de inteligencia artificial.
"OpenAI necesita inversiones permanentes para sostener el desarrollo de sus modelos. Las declaraciones que presentan cada avance como un cambio de era contribuyen a mantener el interés de inversores y del mercado", indicó.
No obstante, aclaró que su planteo "no implica desconocer el progreso alcanzado por la inteligencia artificial".
"Los avances son reales y están transformando industrias enteras. Lo que cuestiono es utilizar la etiqueta más extrema disponible para describir un proceso que todavía no reúne las condiciones técnicas de la singularidad", afirmó.
Finalmente, Scapin consideró que la diferencia entre una narrativa de mercado y la evidencia científica resulta relevante para las organizaciones que evalúan proyectos de inteligencia artificial.
"Las empresas necesitan tomar decisiones de inversión basadas en capacidades comprobadas y evidencia técnica, no únicamente en declaraciones de alto impacto mediático", concluyó.
