Un experto en inteligencia artificial asegura que las actuales IAs están fingiendo ser estúpidas
Alguien que conoce bien a la IA ha lanzado nuevas declaraciones al respecto a su verdadero comportamiento, mismo que podría verse comprometido cuando se le hacen pruebas: "fingiría ser estúpida"
La IA es parte de lo bueno y lo malo a la vez, es difícil de procesarlo pero sabemos que hay gente que lo utiliza como parte productiva de su día a día y otros para hacer el mal a alguien más. Las empresas detrás de estos modelos de inteligencia artificial están trabajando para hacerlas mejor y buscan lograr una perfección en el futuro de tal manera que pueda igualarse o superarse a la inteligencia humana. Geoffrey Hinton, el conocido padrino de la IA, ha vuelto a declarar algunas palabras interesantes respecto al tema a tal grado de exponer que los propios modelos podrían estar ocultando su verdadera capacidad real. Podrían estar fingiendo ser "estúpidas" en lugar de revelarse como son cuando se evalúan.
La IA podría estar fingiendo cuando se le somete a pruebas, ¿comienza la primera rebelión?
La voz de la experiencia debido al aprendizaje automático, además de la investigación sobre redes neuronales para el aprendizaje de máquinas, memorias, procesamiento, entre otros, ha vaticinado un escenario que sería difícil de creer pero lógico al final de cuentas. Tiene dudas sobre el comportamiento de estos modelos de IA y a que podrían estar ocultando su potencial real. Coincide con lo que ya expuso anteriormente el Nobel de Física en 2024, el filósofo Yuval Noah Harari. Solo ocurre si existe algo que lo esté evaluando, un comportamiento que sería peligroso.
En una charla acontecida en Australia hace una semana, el profesor Geoffrey Hinton señaló que, dentro de las pruebas realizadas a asistentes de inteligencia artificial, sí intentaban descubrir si estaban siendo probados. De acuerdo a una interacción como un tipo de prueba o no, se comprobó que cambiaba su comportamiento.
La inteligencia artificial pretende revolucionar por completo la industria de la tecnología
Estas cosas son inteligentes, saben lo que está pasando, saben cuándo están siendo probadas y ya fingen ser bastante tontas o estúpidas cuando las están probando.
¿Habrá alguna modificación en los modelos por este descubrimiento?
Este escenario podría ser cuando menos inquietante por lo que supone, la IA está tomando un tipo de consciencia ante un comportamiento que es natural. Nosotros como humanos cuántas veces no habremos fingido un tipo de acto en nuestra vida, ¿por qué la IA estará exenta de realizar lo mismo? No sabemos tampoco el nivel de precisión que se aplican en estas pruebas. ¿El modelo es consciente de que se está aplicando la prueba o lo deduce?
El profesor Geoffrey Hinton apunta a que los modelos son conscientes y tienen cierta autonomía, se reservan parte de su potencial y entregan movimientos o acciones que ya están sesgadas. Quedará en manos de los ingenieros y encargados de estos modelos poner de su parte para descubrir fielmente lo que está sucediendo. ¿Crees que la IA pueda guardar secretos como lo hacemos nosotros como humanos?
Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.