Dirbtinio intelekto (DI) kūrėjai vis dažniau susiduria su naujo tipo grėsme – vadinamosiomis „distiliavimo atakomis“. Tai atvejai, kai vienų bendrovių sukurti galingi modeliai sistemingai išnaudojami kitų įmonių, siekiant perimti jų gebėjimus ir paspartinti savo produktų kūrimą. Šiame straipsnyje apžvelgiama, kaip bendrovė „Anthropic“ reaguoja į tokias atakas ir kuo jos pavojingos visai DI ekosistemai.
Bendrovė „Anthropic“ paskelbė raginimą imtis veiksmų prieš vadinamąsias DI „distiliavimo atakas“, apkaltinusi tris kitas bendroves neteisėtai naudojus jos pokalbių robotą „Claude“ ir taip siekus pagerinti savo modelius. „Anthropic“ teigimu, įmonės „DeepSeek“, „Moonshot“ ir „MiniMax“ vykdė „pramoninio masto kampanijas, kurių tikslas – neteisėtai perimti „Claude“ galimybes savo modeliams tobulinti“.
DI srityje distiliavimas paprastai reiškia procesą, kai silpnesni modeliai mokomi, remiantis galingesnių modelių pateikiamais atsakymais. Pats distiliavimas savaime nėra blogas ar neteisėtas metodas – jis plačiai naudojamas efektyvesniems, mažiau išteklių reikalaujantiems modeliams kurti. Tačiau „Anthropic“ pabrėžia, kad distiliavimo technika gali būti išnaudojama ir žalingiems tikslams.
Pasak „Anthropic“, minėtos trys Kinijos DI bendrovės buvo atsakingos už daugiau kaip „16 milijonų apsikeitimų žinutėmis su „Claude“, pasitelkus maždaug 24 000 apgaulingų paskyrų“. Iš „Anthropic“ perspektyvos, šios konkurentės naudojo „Claude“ kaip trumpiausią kelią prie pažangesnių DI modelių kūrimo – tai leistų ne tik greičiau pasivyti konkurentus, bet ir potencialiai apeiti tam tikras saugiklines priemones, integruotas į originalų modelį.
Savo viešame pranešime „Anthropic“ teigia, kad jai pavyko „didele tikimybe“ susieti kiekvieną iš šių distiliavimo atakų kampanijų su konkrečiomis bendrovėmis. Tam buvo naudojama IP adresų koreliacija, metaduomenų užklausų analizė, infrastruktūros veikimo požymiai. Be to, „Anthropic“ bendradarbiavo su kitomis DI pramonės įmonėmis, kurios taip pat buvo pastebėjusios panašius elgesio modelius ir įtartinas užklausas.
Praėjusių metų pradžioje panašius kaltinimus išreiškė ir bendrovė „OpenAI“, pranešusi, kad konkurentės bando distiliuoti jos modelius. „OpenAI“ tuomet užblokavo įtartinas paskyras ir ėmėsi papildomų apsaugos priemonių. „Anthropic“, valdanti „Claude“ pokalbių robotą, taip pat žada atnaujinti savo sistemas, kad distiliavimo atakas būtų sunkiau įvykdyti ir lengviau atpažinti.
Paradoksalu, tačiau tuo metu, kai „Anthropic“ viešai kritikuoja kitas bendroves dėl galimai neteisėto jos modelių naudojimo, pati įmonė susiduria su rimtais teisiniais iššūkiais. Muzikos leidėjai yra pateikę „Anthropic“ ieškinį, kuriame kaltina bendrovę neteisėtai naudojus saugomų dainų kopijas „Claude“ mokymui. Tai parodo, kad DI ekosistemoje diskusijos apie intelektinės nuosavybės apsaugą ir etišką duomenų naudojimą vyksta visomis kryptimis – tiek tarp technologijų kūrėjų tarpusavyje, tiek tarp kūrėjų ir turinio teisių savininkų.
