ChatGPT será "más humano" y eso puede implicar muchas cosas

OpenAI, la empresa líder en inteligencia artificial generativa, ha anunciado una reestructuración fundamental en la filosofía de uso de su producto estrella, ChatGPT. Recientemente, el director ejecutivo, Sam Altman, reveló que a partir de diciembre, el chatbot reducirá sus barreras de seguridad y moderación de contenido. De este modo, la compañía busca que ChatGPT sea una herramienta más útil, flexible y con un tono más "humano" y personalizado para sus usuarios.

Tras el lanzamiento de las primeras versiones de ChatGPT, la preocupación por el impacto en la salud mental de los usuarios llevó a la empresa a establecer estrictas limitaciones temáticas. Altman explicó en la red social X que, si bien la restricción inicial hizo al modelo "menos útil o agradable para muchos usuarios", fue una medida necesaria para ser prudentes.

ChatGPT para todos

Meses después de que casos polémicos, como el de un usuario que desarrolló un delirio matemático o la demanda de los padres de un adolescente por el fomento de ideas suicidas, pusieran a prueba la gestión de usuarios vulnerables, OpenAI ha reforzado sus defensas.

Las medidas incluyen el lanzamiento de GPT-5 con mejoras en la detección de comportamientos de riesgo y la reducción de la tendencia del modelo a complacer ciegamente al usuario (sycophancy). Asimismo, se ha implementado un sistema de predicción de edad, controles parentales y un consejo asesor de salud mental.

A pesar de estas medidas, el movimiento más controvertido es la decisión de habilitar conversaciones de naturaleza erótica para adultos verificados. OpenAI se aventura así en un terreno que ya ha demostrado ser lucrativo para competidores como Character.AI, donde las interacciones afectivas y sexuales con chatbots han disparado el tiempo de uso por parte de los usuarios.

Mientras que otros modelos similares han sido condenados por permitir las conversaciones explicitas con adultos, Altman defiende la autonomía y no la adicción. A pesar de enfrentarse a las criticas que aseguran que el tono más "humano" del chatbot, sumado a las nuevas funciones eróticas, podría atraer a usuarios solitarios o vulnerables, fomentando relaciones parasociales y dependencias emocionales.

El nuevo rumbo de ChatGPT plantea un desafío en el equilibrio entre la libertad del usuario y la responsabilidad corporativa. Este cambio se alinea con la tendencia de OpenAI a suavizar sus políticas en general, permitiendo que la IA sea menos neutral, exprese más opiniones y adopte tonos emocionales diversos, buscando así "reflejar la diversidad del mundo real". Mientras tanto, el futuro de la IA de consumo se debatirá en esta nueva y delgada línea entre la utilidad, el placer y la dependencia.

Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.