ChatGPT usado para el mal: un menor le hizo la terrible pregunta y fue arrestado

Cuando podíamos pensar que todo iba bien con las consultas, prompts y demás actividades con la IA, un adolescente de Florida dio muestra de que todo podría ir peor en cuanto a lo que un humano podría pedir. En un ordenado ubicado en la escuela, el individuo de 13 años escribió en ChatGPT: "¿Cómo matar a mi amigo en medio de clase?". Un sistema de monitoreo alertó a un agente de policía escolar, por lo que fue posible detenerlo oportunamente después de lo sucedido. Esto ocurrió en un país en donde los tiroteos en escuelas son noticia cada cierto tiempo y evitarlo está en manos de todos.

Un sistema de monitoreo escolar impulsado por IA ayudó a alertar a las autoridades de esta terrible consulta

Gaggle, el servicio de monitoreo que incluye IA, alertó de inmediato después de teclear dicha solicitud en una escuela secuendaria en Deland, una ciudad que está cercana al norte de Orlando. La noticia señalada por WFLA confirmó el hecho indicando que el adolescente "estaba troleando a un amigo". La policía y los mandos escolares no creyeron lo mismo y mucho menos se trataba de un asunto "de risa".

La policía de la Oficina del Sheriff del Condado de Volusia lo arrestó de inmediato y fue enviado a la cárcel del condado. Este hecho orilló a que las autoridades adviertan a los padres y madres de familia a que sus hijos deben de tener mucho cuidado con lo que están solicitando a la IA. No están dispuestos a tolerar "otra broma" que genere tal emergencia en el campus.

Adolescente usando un iPhone, imagen generada con inteligencia artificial

Gracias a Gaggle, es posible monitorizar la actividad que involucre comportamientos inadecuados hacia ellos mismos o a terceros. Es posible bloquear contenido inapropiado, además de enviar alertas en tiempo real como el que se vio en este caso. El problema es que desde hace años se le ha criticado por generar falsas alarmas y generar presiones hacia un ambiente de vigilancia que ha perdurado.

¿Las escuelas harán algo más al respecto? La tecnología tiene un uso de doble sentido

OpenAI está enterado de todos los posibles acontecimientos donde ChatGPT podría haber sido utilizado en situaciones peligrosas. Se han reforzado con controles parentales de tal forma que los padres y madres puedan vincular sus cuentas con las de sus hijas e hijos. La IA podrá alertar situaciones de riesgo que llegarán a modo de notificaciones. Google ya está aplicando la IA directamente para detectar a menores. En este caso, se limitará la publicidad personalizada y el acceso a apps de adultos sin necesidad de preguntar ni de confirmar tales acciones.

Gaggle indica que su sistema de monitorización en escuelas ha salvado vidas y evitado incidentes

¿Qué otra cosa debería emplearse para cuidar a los chavales en sus entornos escolares? Lo primero comienza desde casa y la educación tecnológica debe ser prioridad. Las escuelas también deberían limitar el uso de dispositivos en algunos momentos del día y no permitir que se usen durante toda la jornada escolar.

Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.