Saskaņā ar Kaspersky Digital Footprint Intelligence Service* 2023. gadā iegūtajiem datiem, drošības pētnieki ir novērojuši ievērojamu pieaugumu tumšā tīmekļa (dark web) diskusijās par ChatGPT un citu lielo valodas modeļu (LLM – Large Language Models) nelikumīgu izmantošanu.
* Kaspersky Lab ir Krievijas Federācijā radīta anti-vīrusa programmatūra, kuras dibinātājs ir iekļauts vairāku valstu sankcijās un rietumvalstu nacionālās drošības iestādes aicina izvairīties no Kaspersky programmatūras izmantošanas saistot to ar paaugstinātiem datu noplūdes, spiegošanas un nacionālās drošības draudiem. Šajā rakstā atsaucamies uz Kaspersky tikai un vienīgi saistībā ar viņu ziņojumu par tumšā tīmekļa ierakstiem, kas saistīti ar ChatGPT lietošanu. Pardrosibu.lv redakcija stingri aicina neizmantot agresorvalstu un ārpus ES/EEZ/NATO valstu teritorijas radītus produktus.
Tika identificēti gandrīz 3 000 tumšajā tīmeklī atrodamie ieraksti, kuros galvenā uzmanība pievērsta visdažādākajiem kiberdraudiem. Sākot no ļaunprātīgu tērzēšanas robotu (chatbot) versiju izveides, un beidzot ar alternatīvu projektu kā XXXGPT un FraudGPT izpēti.
Lai gan sarunu kulminācija notika pagājušā gada martā, notiekošās diskusijas liecina par pastāvīgu interesi par mākslīgā intelekta (MI) tehnoloģiju izmantošanu nelikumīgām darbībām.

Saskaņā ar Kaspersky datiem, kibernoziedznieki aktīvi pēta dažādas ChatGPT un MI ieviešanas shēmas, tostarp ļaunatūras (Malware) izstrādi un valodas modeļu nelikumīgu izmantošanu.
“Draudu dalībnieki (threat actors) aktīvi pēta dažādas shēmas, lai ieviestu ChatGPT un MI. Tēmas bieži ietver ļaunprogrammatūru izstrādi un citus valodas modeļu nelikumīgas izmantošanas veidus, piemēram, nozagtu lietotāju datu apstrādi, inficēto ierīču failu analizēšanu un citus,” skaidro Kaspersky digitālo pēdu (digital footprint) analītiķe Alisa Kulišenko.
Analītiķe piebilda, ka MI rīku izplatības rezultātā dažos kibernoziedznieku forumos ir iekļautas arī automātiskas atbildes no ChatGPT vai tam līdzīgiem rīkiem.
“Papildus tam, Draudu dalībnieki, izmantojot dažādus tumšā tīmekļa kanālus, mēdz dalīties ar jailbreaks – īpašiem prompts komplektiem, kas var atbloķēt papildu funkcionalitāti – un izstrādāt veidus, kā izmantot likumīgus rīkus ļaunprātīgiem nolūkiem,” teica Kulišenko.
Vēl viens satraucošs aspekts, ko atklāja Kaspersky, ir nozagto ChatGPT kontu tirgus. Tumšajā tīmeklī ir vēl 3 000 ierakstu, kuros šie konti tiek reklamēti pārdošanai.
Šis tirgus rada ievērojamus draudus lietotājiem un uzņēmumiem, jo tajā tiek izplatīti zagti konti, vai arī reklamēti automātiskās reģistrācijas pakalpojumi, kas pēc pieprasījuma masveidā izveido kontus.

Reaģējot uz šiem atklājumiem, Kaspersky ieteica ieviest uzticamus galaiekārtu aizsardzības (endpoint security) risinājumus un specializētus pakalpojumus, lai cīnītos pret augsta profila uzbrukumiem un mazinātu iespējamās sekas.