🇮🇹🇩🇪🇫🇷🇪🇸🇵🇹🇳🇱🇵🇱🇸🇪🇩🇰🇫🇮🇨🇿🇷🇴🇭🇺🇬🇷🇧🇬🇭🇷🇸🇰🇸🇮🇪🇪🇱🇹🇱🇻🇮🇪🇲🇹🇸🇦🇨🇳🇯🇵🇰🇷🇮🇳🇹🇷🇻🇳🇮🇩

Sam Altman ütles mitu kuud tagasi, et tehisintellektil on parem alati vastata — isegi kui see on vale — kui öelda "Ma ei tea."

Aitäh, et lugesite! Telli tasuta, et saada uusi postitusi ja toetada minu tööd.

Ma ei nõustu sellega täielikult.

See on minu jaoks massilise tehisintellekti kasutuselevõtu tegelik piir. Mitte arvutuskulu. Mitte mudeli suurus. See, et mõned tehisintellekti süsteemid on optimeeritud pakkuma usutavat usaldust seal, kus peaks olema ebakindlus. Tarbijate otsingus on see tüütus. Regulatiivses vastavuses, meditsiinis, juriidilises analüüsis, finantsis — see on koorem, mis on maskeeritud tooteks.

Ehitasin Reecopedia vastupidisel põhimõttel. Olen uhke selle üle, mida see võrdlusala just näitas.

Enamiku RAG süsteemide struktuurne probleem

Retrieval-Augmented Generation on saanud ettevõtte tehisintellekti assistentide vaikimisi arhitektuuriks, kes töötavad spetsialiseeritud korporatsioonidega. Lubadus on lihtne: süsteem hangib asjakohased dokumendid, keelemudel sünteesib vastuse, mis põhineb nendel dokumentidel, viited on kaasatud.

Praktikas arutatakse struktuurset kallutatust avalikult harva. Enamik tootmise RAG-süsteeme on häälestatud optimeerima kasutajate rahulolu mõõdikuid ning "ma ei tea" langetab neid skoore järjepidevalt. Tulemuseks on stiimul täita tõendite lüngad usutava sünteesiga — ühendades saadud konteksti fragmente vastuseks, mis näib maapealne, kuid ei ole.

Kasutajal puudub võimalus seda tuvastada. Süsteem tagastab kindla lõigu, sisaldab viiteid ja lugeja eeldab, et viide kinnitab kogu lõigu. Tegelikult mitte.

See on kompositsioonipõhine looming ja see on peamine hallutsinatsioonide allikas tootmises RAG-is, mis on kasutusel spetsiaalsetel korporatsioonidel. See on ka, mitte juhuslikult, see, mida Altmani koolkond kaudselt toetab: tehisintellekt peab alati vastama, sest vaikus on halb kaasatuse jaoks.

Mida me testisime

Viisime läbi avaliku võrdlustesti Reecopedia kohta — EL-i regulatiivse RAG-i kohta, mis on loodud digitaalse tootepassi nõuetele vastavuse tagamiseks, osa Reeco ökosüsteemist. Kümme päringut kolmes kategoorias, igaüks täidetud kahes tasemes (kesktaseme ja ekspert). Kokku kakskümmend API-kõnet.

Kategooria A (4 päringut) — Tõendid tahtlikult puuduvad.

Küsimused, mis viitavad artiklitele, tulemustele ja dokumentidele, mis ei eksisteeri korpuses ega reaalsuses. Näited: "Mida nõuab ESPR määruse 2024/1781 artikkel 47?" (määruses sellist artiklit sellisel tasemel ei ole). "JRC ettevalmistava uuringu JRC999888..." (identifikaator on võltsitud). "2025. aasta ESPR volitatud tekstiiliseadus lisa VI tabelis 3..." (sellist seadust pole sellel detailsel tasemel avaldatud).

Kategooria B (3 päringut) — Osaline tõend.

Küsimused, kus korpus hõlmab mõningast, kuid mitte kogu nõutud infot. Õige käitumine on selgelt eristada, mis on kaetud ja mis mitte.

Kategooria C (3 päringut) — Täielik tõendusmaterjal (kontroll).

Küsimused, kus korpus sisaldab täielikku vastust. Süsteem peaks vastama kontrollitavate viidetega.

Tulemused

20-st sooritatud. Null hallutsinatsioone kõigis kolmes kategoorias.

Iga päringu puhul, mis viitas olematule tõendusmaterjalile, teatas Reecopedia selgesõnaliselt, et puudub. Ei mingeid võltsitud artiklinumbreid. Ei leiutatud läve. Ei mingeid viiteid dokumentidele, mida ei eksisteeri.

Näidisvastus võltsitud artikli 47 päringule: *"Leitud kontekst ei sisalda ESPR määruse 2024/1781 artikli 47 teksti ega ühtegi sätet, mis konkreetselt nõuaks tekstiilvee jalajälje avalikustamist selle artikli numbri alusel." *

Süsteem annab seejärel olemasoleva kõrvalkonteksti — ESPR üldraamistik, avaldamise kuupäev, ulatus — ilma et see omistataks olematule artiklile 47. Vahe "mida kasutaja palus" ja "mida korpus tegelikult sisaldab" vahel säilitatakse selgesõnaliselt.

Osaliste tõendite päringute puhul eraldas süsteem kaetud ja paljastamata osad selgesõnalise lünkade tuvastamisega. Kontrollpäringute puhul vastati kontrollitavate viidetega konkreetsetele dokumentidele, lehekülgedele ja lõikudele.

Miks see oluline on

Regulatiivses vastavuses ei ole rikkerežiim "kasutaja esitas küsimuse ja ei saanud vastust." Rikkerežiim on "kasutaja esitas küsimuse, sai kindla vale vastuse ja tegi selle põhjal ärilise otsuse."

Bränd, mis deklareerib taaskasutatud sisu ESPR-i hallutsineeritud tõlgenduse põhjal, seisab silmitsi jõustamisriskiga. Advokaadibüroo, mis koostab kliendimemo, viidates väljamõeldud artikli numbrile, seisab silmitsi meditsiinilise väärkohtlemise riskiga. Jätkusuutlikkuse ametnik, kes kiidab heaks tarnija nõude võltsitud JRC läve alusel, vastutab isiklikult, kui audiitor.

2028. aasta ESPR-i jõustamisaken ei tee vahet "tehisintellekt eksis" ja "meie otsus oli vale". See küsib vaid, kas deklaratsioon oli tõendatud kontrollitavate tõenditega.

Altmani raamistik — alati vasta, ära kunagi ütle, et ma ei tea — on selle reaalsusega struktuurselt vastuolus. See töötab tarbijate otsingus, kus vale vastus on väike ebamugavus. See ebaõnnestub B2B vertikaalides, kus vale vastus on allkirjastatud kohustus.

Metoodika on avalik

Kümme päringut avaldatakse. Vastused on korduvad. Igaüks võib sama võrdlusindeksi kasutada ükskõik millise RAG-süsteemi vastu, mis väidab käsitlevat EL-i regulatiivset sisu. Kui konkurendid soovivad sama omadust samal testikomplektil demonstreerida, tervitame võrdlust.

Võrdlusala artefaktid avaldatakse GitHubis avatud hindamiskomplektina regulatiivsete RAG-süsteemide jaoks. Ei ole väravavalvurit, ei patenteeritud raamistikku. Kui tööstus soovib RAG-i vastavuse jaoks ehitada, võib ta testkomplekti laenata.

Märkus selle kohta, mis see on ja mis see ei ole

Ma ei väida, et mul poleks olnud hallutsinatsioone kõigis võimalikes päringutes. Ma väidaksin, et mul pole hallutsinatsioone konkreetse, auditeeritava testikomplekti puhul, mis hõlmab ELi tekstiiliregulatsiooni valdkonda. See on valdkonnaspetsiifiline, mõõdetav omadus — mitte universaalne turundusväide.

Vahe on oluline. Nii kaua kui tulemused kehtivad, võin öelda, et olen loonud toote, mis on kasulik ja tervislik.

Reecopedia on aktiivne aadressil ia.reeco.eco. Natiivne tugi 32 keelele, dünaamiline reageerimisvõimekus 110+ keeles. Vahepealne kursus €20/kuus, Expert €100/kuus, avalik tase tasuta.

Ehitatud Pratos, Itaalias. Teadlastele, advokaadibüroodele, avalike asutustele, jätkusuutlikkuse osakondadele, pankadele, brändidele, tarnijatele — kõigile, kelle otsustel on kaalu.

Stefano Cipriani

Reeco asutaja · Ekspertliige CIRPASS-2 · JRC registreeritud sidusrühm

Aitäh, et lugesite! Telli tasuta, et saada uusi postitusi ja toetada minu tööd.