Una de las personas que más sabe de IA ha dimitido de su puesto asegurando que "el mundo está en peligro"
El ahora exjefe de seguridad de Anthropic, Mrinank Sharma, ha explicado los motivos de su renuncia de Anthropic dejando un mensaje relevante, el mundo podría estar en peligro y no solo por la IA
El jefe de seguridad de Anthropic, Mrinank Sharma, ha anunciado su renuncia en una carta pública que a su vez deja una reflexión que preocupa. En la mencionada carta ha indicado que "el mundo está en peligro" debido a que existe una serie de crisis donde la compañía donde se desempeñaba ignoró en gran parte algunos principios fundamentales de trabajo. Desde 2023, Sharma estaba trabajando en una investigación donde el bioterrorismo mediante IA pudiera ser eliminado, además de evitar que los chatbots pudieran adular a los usuarios como ha ocurrido anteriormente.
Más de un millón de usuarios vieron la publicación de Mrinank Sharma, realmente es preocupante
Today is my last day at Anthropic. I resigned.
— mrinank (@MrinankSharma) February 9, 2026
Here is the letter I shared with my colleagues, explaining my decision. pic.twitter.com/Qe4QyAFmxL
Así como informan en Forbes, Sharma tenía el propósito con su equipo de poder investigar y desarrollar medidas de seguridad contra los actores que usan los chatbots de IA para tener información sobre cómo elaborar actividades maliciosas. Apenas la semana pasada descubrió que muchas interacciones ocurren a diario y que existen muchos casos de perceipción distorsionada de la realidad, Sharma las bautizó como "patrones de desempoderamiento" aunque indicó que estos mismos son poco frecuentes pero las tasas son más altas en temas de relaciones y bienestar.
Parece que nos estamos acercando a un umbral en el que nuestra sabiduría debe crecer en la misma medida que nuestra capacidad de afectar al mundo, para no enfrentar las consecuencias.
Anthropic y el anuncio emitido sobre publicidad y la IA
Sharma tiene claro que debe dejar su puesto y seguir adelante indicando que quiere estudiar poesía y tener "práctica del discurso valiente" contribuyendo de una forma donde él se pueda sentir como una persona íntegra. Retornando un poco al contenido principal de su carta indicó que vio "repetidamente lo difícil que es realmente dejar que nuestros valores gobiernen nuestras acciones" acusando que se enfrentan presiones para que se deje de lado lo más importante.
No ha sido el único colaborador de IA que ha levantado la voz
Si nos vamos al historial de colaboradores en el que han renunciado por un caso similar al de Sharma, tenemos a Tom Cunningham que fue investigador económico de OpenAI. En su caso, manifestó sentirse frustrado porque la empresa se limitó a publicar investigaciones críticas sobre el uso de la IA. Otro miembro que hoy trabaja en Anthropic y en su momento en OpenAI, Jan Leike, renunció por no estar de acuerdo con el liderazgo de la compañía sobre las "prioridades centrales de la empresa". Gretchen Kruege también dejó su puesto en OpenAI indicando que había que mejorar "procesos de toma de decisiones, rendición de cuentas, transparencia y las mitigaciones de impactos en desigualdad, derechos y medio ambiente.
ChatGPT en iPhone
Todos tienen un factor en común y es lo que preocupa, ninguna empresa de IA toma en cuenta una opinión central de algún empleado clave. Es algo extraño considerando que tienen puestos relevantes pero eso importa muy poco. ¿Qué opinas sobre el caso de Mrinank Sharma? ¿Hay algo que puedan cambiar las empresas de IA a nuestro favor?
Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.