En la antigua Grecia había que viajar a ciertos lugares sagrados para saber algo del futuro o recibir alguna recomendación. Por ejemplo, los oráculos de Zeus se originaron en Dodona u Olimpia. También fueron reconocidas Delfos y Cumas. Había sibilas, profetas o mantis, que son tres de los nombres de quienes actuaban como portadores de la voz del dios.
ULISES CORTÉS. Catedrático de Inteligencia Artificial de la UPC
El caso de la Pitia de Delfos, ya conocido por Homero 1, fue particular porque el solicitante recibía como mensaje un poema ambiguo, si no oscuro, que era recogido por un sacerdote que lo interpretaba. Esos fueron los antecedentes de los proxies 2.
MULTITUD DE NOTICIAS SOBRE MODELOS MASIVOS DE LENGUAJE
Durante el último año, el mundo se ha visto inundado de noticias contradictorias sobre una clase de aplicaciones de la IA conocidas como modelos masivos de lenguaje (LLM) 3. El primero y más referenciado de esta clase se llama ChatGPT 4. Uno de los resultados económicos ha sido el éxito multimillonario de la empresa OpenAI. Su impacto social, primero, y económico, después, es incuestionable.
En este caso, el solicitante interroga a un LLM con un mensaje (aka prompt) y espera una recomendación, información o confirmación, que es casi instantánea, sin importar la parte del mundo en la que uno se encuentre. La rapidez y contundencia de las respuestas parecen a priori correctas e impecables, pero no lo son. Desde el punto de vista social, los LLM han creado la ilusión de que el usuario tiene a mano una máquina cuya inteligencia en apariencia compite o supera a la de los humanos.
La tecnología de cualquier tipo siempre ha sido un arma de doble filo: puede mejorar nuestras vidas, pero también puede causar problemas sin querer o usarse de forma intencional con fines dañinos. El caso de LLM no parece diferente, pero lo es. La ubicuidad de Internet, la potencia de cálculo disponible y la falta de regulación para esta tecnología hacen de este un caso aparte. Está claro que el AI Act llega tarde 5 pero es el primer intento de controlar la tecnología sin detener la investigación.
La tecnología de cualquier tipo siempre ha sido un arma de doble filo: puede mejorar nuestras vidas, pero también puede causar problemas sin querer o usarse de forma intencional con fines dañinos
DESVENTAJAS E INEXACTITUDES DE LOS LLM
Entre las posibles desventajas sociales del uso de los LLM podemos identificar la posibilidad de respuestas sesgadas o discriminatorias, la generación de contenido ofensivo o dañino y la perpetuación de prejuicios sociales debido a sesgos en los datos originales de entrenamiento. Los LLM carecen de comprensión contextual, lo que genera respuestas incompletas o inexactas a las que los creadores llaman alucinaciones.
En el entorno laboral, el uso descuidado de los LLM puede provocar violaciones de la privacidad, robo de propiedad intelectual y fuga de datos industriales, lo que plantea riesgos importantes para las empresas e instituciones. Además, el uso de LLM genera preocupaciones sobre la seguridad, la desinformación y la creación de contenido malicioso, lo que puede tener implicaciones adversas en varios dominios. Estas desventajas sociales resaltan la importancia del despliegue responsable, la regulación y las consideraciones éticas al utilizar estas herramientas en diferentes contextos.
Una de las máximas más conocidas del oráculo de Delfos es Χρησμος θαύμαζε –admira los oráculos–. Lo mejor en estos tiempos de cambio constante y mucha mercadotecnia es desconfiar de los oráculos y de los modelos masivos de lenguaje 6.
1 https://www.lavanguardia.com/historiayvida/historia-antigua/20191017/47900462955/delfos-gracia-clasica-oraculo.html
2 https://iproyal.com/blog/what-is-a-proxy-server-and-how-does-it-work/
3 https://www.wired.co.uk/article/how-chatgpt-works-large-language-model
4 https://aiapp.org
5 https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
6 https://arxiv.org/abs/2311.05232
