Vabablogi - LLM mythos

Mythos, küberturvalisus ja kelle käes ohjad on

Anthropic tuli aprillis välja oma uue mudeliga nimega Claude Mythos Preview. See mudel on koodi analüüsimises nii hea, et leidis paari nädalaga tuhandeid varem teadmata turvaauke kõigis suuremates operatsioonisüsteemides ja brauserites. Mõned vead olid koodis peidus üle kahekümne aasta, vanim leitud auk OpenBSD-s oli 27 aastat vana. See pole enam mingi väike asi.

Miks see on tegelikult hea uudis

Kõige tähtsam on see, et kaitsepool sai esimesena mudeli kätte. Anthropic ei lasknud Mythost laia maailma lahti, vaid tegi sellega projekti nimega Glasswing. Idee on lihtne, enne kui sama tasemel mudelid jõuavad pahatahtlike tegelaste kätte, jõuavad firmad ja avatud lähtekoodi hooldajad oma süsteemid korda teha.

Eriti väärtuslik on see avatud lähtekoodi projektidele. Suurematel projektidel on juba olemas oma turvameeskonnad, kes saavad mudelit kasutada selleks, et:

• skannida koodibaasi auke, mida silmaga ei märka
• vältida pahatahtliku koodi sattumist hoidlasse läbi pull requestide
• kontrollida sõltuvusi enne uuendamist
• kirjutada parandusi kiiremini ja täpsemalt

Mozilla väidetavalt parandas Mythose abiga juba sadu auke Firefoxis. Täpselt seda kogu tööstus vajab. Tavaline inimene ei jõua kunagi suurte koodibaaside kogu sügavust läbi vaadata, mudel jõuab.

Aga siis tuleb see USA-keskne osa

Glasswingi partnerite nimekiri näeb välja umbes nii: Apple, Amazon, JPMorgan Chase, Cisco, Palo Alto Networks. Kõik USA suurfirmad. Anthropic andis lisaks juurdepääsu veel umbes 40-le organisatsioonile, kes hoiavad kriitilist taristut.

Eesti firmasid sealt ei leia. Ja minu meelest on see üsna kehv olukord. Meie e-riigi süsteemid, pangad, telekomid, kõik need on täpselt sama haavatavad nullpäeva aukudele, mida Mythos oskab leida. Praegu ei saa keegi Eestis mudelit kasutada selleks, et oma süsteeme ette ära parandada. Pahad osapooled aga teavad juba väga hästi, et sellised augud on olemas, sest Anthropic ise on Mythose võimekuse avalikult välja kuulutanud.

Teisisõnu, suurus ja päritolu tekitab tasemete vahe. Suured USA firmad parandavad augud ära enne, kui ülejäänud maailm üldse jõuab aru saada, mis toimub. Väiksemad riigid jäävad ootama, kuni mudel kunagi laiemalt kättesaadavaks läheb. Selleks ajaks võib juba palju juhtuda.

Ja juba ongi juhtunud

Kõige naljakam, õigemini kõige murettekitavam, on see, et ligipääsupiirangud ei pidanud isegi suurte mängijate puhul vett. Kaks nädalat pärast Mythose väljakuulutamist tunnistas Anthropic, et keegi sai mudelile loata ligi. Kuidas? Mitte mingi keerulise rünnaku läbi. Üks kolmanda osapoole töövõtja andmed lekkisid.

Minu hinnangul on tegelikult juhtunud rohkem juhtumeid, kui avalikult räägitakse. Kui üks teadaolev grupp sai 24 tunni jooksul ligi, siis kindlasti üritavad seda ka teised, ja kõiki edukaid katseid ei pruugita avastadagi. Logide jälgimine ei ole ilmselt nii hea, kui Anthropic enda mainekujunduses näitab. Üks väline ekspert ütles otse välja, et kui Mythos oleks tõesti nii ohtlik, kui turundus väidab, peaks anomaaliate avastamine maailmatasemel olema, ja praegu see paistab olevat pigem võimsuse kui turvalisuse probleem.

Kokkuvõtteks

Mythos on iseenesest ilus näide sellest, kuidas tehisaru saab kaitsepoolt aidata. Probleem on selles, et võimalus on jagatud ebavõrdselt, ja juurdepääsu kontroll on osutunud nõrgemaks, kui turundusjutt lubab. Kui sa oled väiksema riigi IT-süsteemi haldaja, siis Glasswing sind otseselt ei aita. Põhilised asjad tuleb endal ära teha, regulaarsed uuendused, mõistlik ligipääsude haldus, korralik logide jälgimine. Need on jutud, mida on alati räägitud, lihtsalt nüüd on aega selleks tunduvalt vähem.