Choque en Silicon Valley: los líderes de Anthropic y Nvidia se cruzaron por los riesgos de la Inteligencia Artificial
En Dreamforce, la conferencia de Salesforce en San Francisco, los líderes de Anthropic y OpenAI defendieron desacelerar la mejora de las capacidades de la IA. El fabricante de chips Nvidia rechazó frenar y regular. Un día antes, Donald Trump había calificado los riesgos de "engaño".
El debate sobre si la Inteligencia Artificial (IA) avanza demasiado rápido dejó de ser un tema de ensayos académicos. Esta semana llegó a Dreamforce, la conferencia anual que organiza Salesforce, la empresa estadounidense de software para gestión de clientes, en el Moscone Center de San Francisco.
El megaevento esperaba a unas 43.000 personas. Allí, los hombres que hoy marcan el pulso de la tecnología a nivel global expusieron posturas opuestas sobre el futuro de la IA.
Anthropic y los riesgos de la Inteligencia Artificial: la advertencia que inició el debate
Tal como consignó Diario RÍO NEGRO, la semana pasada el CEO de Anthropic, Dario Amodei, publicó un ensayo en el que advirtió sobre los riesgos de un avance sin control de la IA y pidió a la industria desacelerar el ritmo de mejora de sus modelos. Días antes, un miembro clave la empresa, Jacob Coxon había renunciado a Anthropic con un mensaje viral en el que acusó a su empresa y a OpenAI de estar «apostando con nuestras vidas».
La propuesta de Amodei fue respaldada rápidamente por Sam Altman (OpenAI), Elon Musk (SpaceX) y Demis Hassabis (Google DeepMind).
Donald Trump minimizó los peligros de la IA y apuntó al desarrollo económico
El lunes, un día antes de que arrancara Dreamforce, Donald Trump dedicó al menos seis publicaciones en Truth Social a rechazar las advertencias.
«Que la IA tome el control del mundo, destruya a la humanidad y todas las demás cosas malas es un ENGAÑO», escribió el presidente de Estados Unidos.
En otro mensaje apuntó contra la idea de regular la tecnología: «El único control o ‘barrera de protección’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡de alto coeficiente intelectual!), y Estados Unidos lo tiene de sobra».
Trump también se presentó como el único freno necesario: «Soy el Cazador de Engaños, y ahora mismo estoy derribando otro engaño: que la IA va a tomar el control, consumir y destruir el mundo». Y comparó las advertencias con otras causas que descalifica: «Esto es aún más disparatado que el ENGAÑO de RUSIA, RUSIA, RUSIA, o la Estafa del Calentamiento Global«.
Además, defendió la IA como «el mayor motor de desarrollo económico de la historia, más grande que el petróleo, el oro, los diamantes o incluso internet». Ese mismo día llamó al All-In Summit e hizo comentarios similares ante Jensen Huang, CEO de Nvidia.
Dario Amodei, CEO de Anthropic, propuso frenar los modelos de IA y pidió coordinación global
Amodei subió al escenario principal durante la presentación de Marc Benioff, CEO de Salesforce, ante unas 12.000 personas, según reportó CNBC.
Para explicar su postura eligió una analogía con la industria automotriz: una empresa con fallas en los frenos y una rival que se cree la más segura. «Obviamente, es muy tentador atacar a tu competidor y decir ‘estos son inseguros, nosotros somos seguros’. Pero creo que la forma más responsable de responder es decir: primero, miremos nuestro propio historial«, afirmó.
Luego repasó su plan de tres pasos:
- Autoexamen: que cada empresa revise sus prácticas e invierta más en transparencia y seguridad.
- Estándares: trabajar con el resto de la industria para elevarlos.
- Coordinación internacional entre empresas y países.
«Creo que esa es la manera de llevar a la industria hacia adelante, dar el ejemplo, decir que todos siempre pueden ser mejores«, sostuvo.
Consultado sobre su mayor sorpresa de la última década, respondió: «El ritmo del progreso, no solo de la tecnología, sino del lado económico».
Amodei también aportó un dato que relativiza la urgencia comercial. Aun si la tecnología se congelara hoy, dijo, se estaría aprovechando apenas entre un 5% y un 10% de su valor posible. Tendrá una nueva oportunidad de ampliar su visión en una entrevista a solas con Benioff antes del cierre de la conferencia.
Sam Altman alertó sobre la feroz carrera comercial entre las empresas de Inteligencia Artificial
Por la tarde, Sam Altman (OpenAI) mantuvo una charla a solas con Benioff. Allí sostuvo que la seguridad y el monitoreo deben ir por delante de las nuevas capacidades, dado el poder de los modelos actuales.
El CEO de OpenAI apuntó contra quienes condicionan su compromiso: «Hay empresas que dicen cosas como ‘solo seremos responsables si las demás compañías lo son’«. Y agregó: «No debería haber ningún condicionante en eso».
Altman celebró la intención de coordinar: «Creo que es genial que nuestra industria diga que quiere unirse, coordinar y asegurarse de tener tiempo suficiente para hacer esto de forma segura«. Pero advirtió sobre el efecto de la competencia: «Cuando hay alguna insinuación de que, por las presiones comerciales y la carrera, alguna empresa o algunos países podrían no hacer lo correcto, creo que ahí es cuando la gente se asusta mucho«.
La postura de Nvidia: Jensen Huang rechazó las leyes para regular la tecnología
La voz disidente fue Jensen Huang, líder de Nvidia, la empresa que fabrica los procesadores sobre los que se entrenan casi todos estos modelos.
Huang sostuvo que la responsabilidad le corresponde a cada empresa y que elegir entre velocidad de innovación y productos seguros es «una falsa elección». Mientras recorrían juntos el público, Benioff le planteó la alternativa: «Siempre podés pausar y simplemente detenerte. Podemos marcar el ritmo, pausar, avanzar».
En el programa «Mad Money» de CNBC, Huang fue más allá y calificó de «completamente innecesarias» las leyes específicas para la IA. «Tenemos muchas leyes. Tenemos muchas regulaciones que rigen la confiabilidad y el funcionamiento de los productos», argumentó.
Mark Zuckerberg se alineó con Nvidia y defendió los intereses de Meta
Lejos del escenario, Mark Zuckerberg tomó posición en X y otras redes sociales, más cerca de Nvidia que de Anthropic.
«Hay mucho debate sobre frenar el avance de las capacidades hasta que la alineación se ponga al día«, escribió el CEO de Meta. La alineación es el trabajo de los desarrolladores para que los sistemas respeten valores humanos. «Mi visión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes para diferenciar a los agentes y los modelos», sostuvo.
Su argumento es de mercado: los laboratorios que no se concentren en la alineación, dijo, «se quedarán atrás». Como las empresas se exponen a una «responsabilidad legal significativa» si sus modelos causan daños, tienen incentivos propios para prevenir problemas.
Como ejemplo, contó que Meta demoró por decisión propia el lanzamiento de su tecnología Muse por razones de seguridad. «Lo hicimos como parte de nuestro trabajo diario, porque claramente era lo correcto para la gente y para nosotros», afirmó.
Comentarios