A l’antiga Grècia calia viatjar a certs llocs sagrats per saber alguna cosa del futur o rebre alguna recomanació. Per exemple, els oracles de Zeus es van originar a Dodona o Olímpia. També van ser reconegudes Delfos i Cumas. Hi havia sibil·les, profetes o pregadeus, que són tres dels noms dels qui actuaven com a portadors de la veu del déu.
ULISES CORTÉS. Catedràtic d’Intel·ligència Artificial de la UPC
El cas de la Pitia de Delfos, ja conegut per Homer 1, va ser particular perquè el sol·licitant rebia com a missatge un poema ambigu, si no obscur, que era recollit per un sacerdot que l’interpretava. Aquests van ser els antecedents dels proxies 1.
MULTITUD DE NOTÍCIES SOBRE MODELS MASSIUS DE LLENGUATGE
Durant l’últim any, el món s’ha vist inundat de notícies contradictòries sobre una classe d’aplicacions de la IA conegudes com a models massius de llenguatge (LLM). El primer i més referenciat d’aquesta classe es diu ChatGPT. Un dels resultats econòmics ha estat l’èxit multimilionari de l’empresa OpenAI. El seu impacte social, primer, i econòmic, després, és inqüestionable.
En aquest cas, el sol·licitant interroga un LLM amb un missatge (aka prompt) i espera una recomanació, informació o confirmació, que és gairebé instantània, sense importar la part del món en la qual es trobi. La rapidesa i contundència de les respostes semblen a priori correctes i impecables, però no ho són. Des del punt de vista social, els LLM han creat la il·lusió que l’usuari té a mà una màquina amb una intel·ligència que en aparença competeix o supera la dels humans.
La tecnologia de qualsevol tipus sempre ha estat una arma de doble tall: pot millorar les nostres vides, però també pot causar problemes sense voler o utilitzar-se de forma intencional amb finalitats nocives. El cas dels LLM no sembla diferent, però ho és. La ubiqüitat d’Internet, la potència de càlcul disponible i la falta de regulació per a aquesta tecnologia fan que aquest sigui un cas a part. Està clar que l’AI Act arriba tard però és el primer intent de controlar la tecnologia sense aturar la investigació.
La tecnologia de qualsevol mena sempre ha estat una arma de doble tall: pot millorar les nostres vides, però també pot causar problemes sense voler o fer-se servir de manera intencional amb objectius maliciosos
DESAVANTATGES I INEXACTITUDS DELS LLM
Entre els possibles desavantatges socials de l’ús dels LLM podem identificar la possibilitat de respostes esbiaixades o discriminatòries, la generació de contingut ofensiu o nociu i la perpetuació de prejudicis socials a causa de biaixos en les dades originals d’entrenament. Els LLM manquen de comprensió contextual, la qual cosa genera respostes incompletes o inexactes que els creadors anomenen al·lucinacions 3.
En l’entorn laboral, l’ús descurat dels LLM pot provocar violacions de la privacitat, robatori de propietat intel·lectual i fuga de dades industrials 4, la qual cosa planteja riscos importants per a les empreses i institucions. A més, l’ús de LLM genera preocupacions sobre la seguretat, la desinformació 5 i la creació de contingut maliciós, cosa que pot tenir implicacions adverses en diversos dominis. Aquests desavantatges socials ressalten la importància del desplegament responsable, la regulació i les consideracions ètiques en utilitzar aquestes eines en diferents contextos.
Una de les màximes més conegudes de l’oracle de Delfos és Χρησμος θαύμαζε –admira els oracles–. El millor en aquests temps de canvi constant i molt màrqueting és desconfiar dels oracles i dels models massius de llenguatge 6.
1 https://www.lavanguardia.com/historiayvida/historia-antigua/20191017/47900462955/delfos-gracia-clasica-oraculo.html
2 https://iproyal.com/blog/what-is-a-proxy-server-and-how-does-it-work/
3 https://www.wired.co.uk/article/how-chatgpt-works-large-language-model
4 https://aiapp.org
5 https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
6 https://arxiv.org/abs/2311.05232
