California,Estados Unidos. Durante la conferencia principal de Dreamforce 2026,dos de las principales tecnológicas se sumaron al CEO de Salesforce,Marc Benioff,para presentar su perspectiva sobre el futuro de la IA y cómo hacerla más segura. Mientras que Anthropic considera que los estándares en la industria serán relevantes,NVIDIA consideró que las fuerzas del mercado serán suficientes para determinar qué modelos logran ser exitosos.
Dario Amodei,CEO de Anthropic,consideró que el reciente incidente de OpenAI — en el que un grupo de agentes atacaron de forma autónoma a Hugging Face —,podría dar la oportunidad de establecer estándares entre la industria. El directivo lo explicó mediante una analogía,sin mencionar directamente a OpenAI,en el que un incidente de seguridad de una compañía automotriz podría ser el pretexto perfecto para que sus competidores la ataquen y aprovechen su desprestigio.
Sin embargo,el directivo consideró que el enfoque más responsable sería evaluar el rendimiento propio para evitar incidentes similares,y posteriormente,compartir esa información para establecer estándares en la industria,con la intención que pudieran ser implementados a nivel internacional.
Por su parte,al ser cuestionado por Benioff sobre la seguridad de los modelos,Jensen Huang,CEO de NVIDIA,consideró que aunque la seguridad es la labor número uno en el desarrollo de modelos,es esencialmente “un problema de ingeniería”.
En ese sentido,consideró que cada compañía se asegura de crear los ambientes de prueba seguros para estos sistemas complejos,y contar con la capacidad de hacer las pruebas necesarias,antes de liberar un modelo con la confianza que será seguro.
”Te limitas hasta que tienes la confianza de que liberarás algo que el mercado apreciará. Las fuerzas del mercado ya existen,no necesitamos nuevas leyes o nuevas regulaciones. Solo necesitamos compañías que corran tan rápido como puedan”,agregó.
En ese sentido,consideró que “la velocidad de innovación y la seguridad de los productos no son excluyentes; es una falsa dicotomía”. Y recomendó que “si en algún momento sientes que la empresa se está descontrolando o que los productos no serán seguros,haz una pausa y asegúrate de corregir la situación”.
En general,ambos directivos se mostraron positivos respecto al impacto que ya está registrando la IA en la economía,y las posibilidades que ofrece la tecnología para las empresas.
Amodei,por su parte,destacó que el ritmo del progreso ha superado las expectativas,no solo tecnológicamente sino económicamente. Según el directivo,aún si la tecnología se congelara — “lo que no estamos haciendo porque la tecnología mejora diariamente” —,apenas se utiliza un 5 a 10% de su valor potencial.
Anthropic utiliza Salesforce a través de su propio modelo Claude para obtener inteligencia respecto a los acuerdos comerciales potenciales o en curso. Sin embargo,reconoció que pocas empresas tienen conocimiento de estas herramientas,por lo que “aún falta mucha difusión por hacer”.
