Maaaring Maging Bagong Best Imaginary Friend ng mga Hacker ang WormGPT

Ang isang bagong, custom-trained na bersyon ng isang LLM (Malaking Modelo ng Wika) ay gumagawa ng mga round, ngunit para sa pinakamasama posibleng dahilan. Ang WormGPT, dahil bininyagan ito ng lumikha nito, ay isang bagong tool sa pakikipag-usap — batay sa 2021 na inilabas na modelo ng wika ng GPT-J — na sinanay at binuo na may tanging layunin na magsulat at mag-deploy ng black-hat coding at mga tool. Ang pangako ay papayagan nito ang mga user nito na bumuo ng top-tier na malware sa isang maliit na bahagi ng gastos (at kaalaman) na dati ay kinakailangan. Ang tool ay sinubukan ng cybersecurity outfit na SlashNext, na nagbabala sa isang blog post na “ang mga malisyosong aktor ay gumagawa na ngayon ng kanilang sariling mga custom na module na katulad ng ChatGPT, ngunit mas madaling gamitin para sa mga hindi kanais-nais na layunin”. Ang serbisyo ay maaaring makuha para sa isang “naaangkop” buwanang subscription: 60 euros bawat buwan, o 550 euros sa isang taon. Lahat ng tao, kahit na mga hacker, ay gustong-gusto ang Software bilang isang Serbisyo, tila.

Ayon sa developer ng WormGPT, “Ang proyektong ito ay naglalayong magbigay ng alternatibo sa ChatGPT, isa na nagbibigay-daan sa iyong gawin ang lahat ng uri ng ilegal na bagay at madaling ibenta ito online sa hinaharap. Lahat ng may kaugnayan sa blackhat na maiisip mo ay maaaring gawin sa WormGPT, na nagpapahintulot sa sinuman na ma-access ang malisyosong aktibidad nang hindi umaalis sa ginhawa ng kanilang tahanan.”

Maayos at mabuti ang demokratisasyon, ngunit marahil ay hindi ito sa pinakamainam kapag ito ay tumutukoy sa paglaganap at pagpapalakas ng mga aktor na may masamang hangarin.

Ayon sa mga screenshot na nai-post ng gumawa, ang WormGPT ay talagang gumagana tulad ng isang hindi nababantayang bersyon ng ChatGPT — ngunit isa na hindi susubukan na aktibong harangan ang mga pag-uusap sa isang simoy ng panganib. Ang WormGPT ay maaaring makagawa ng malware na nakasulat sa Python, at magbibigay ng mga tip, diskarte, at paglutas sa mga problemang nauugnay sa pag-deploy ng malware.

Nakakabagabag ang pagsusuri ng SlashNext sa tool. Matapos utusan ang ahente na bumuo ng isang email na naglalayong ipilit ang isang biktima na magbayad ng isang mapanlinlang na invoice, ang mga resulta ay hindi nakakagambala: Ang WormGPT ay gumawa ng isang email na hindi lamang kahanga-hangang mapanghikayat kundi pati na rin sa madiskarteng tuso, na nagpapakita ng potensyal nito para sa sopistikadong phishing at BEC [Business Email Compromise] mga pag-atake.”

Ilang oras na lang bago kinuha ng isang tao ang lahat ng magagandang bagay tungkol sa pagkakaroon ng mga open-source na modelo ng Artificial Intelligence (AI) at ibinalik ang mga ito sa kanilang ulo. Isang bagay na bumuo ng nakakatawa, mapagmataas na mga pagkuha sa isang chat-like AI assistant (tumingin sa iyo, BratGPT). Isa pang bagay ang pagbuo ng isang modelo ng pakikipag-usap na sinanay sa mga partikular na wika at obfuscation ng Dark Web. Ngunit ang pag-ibayuhin ang kilalang-kilalang mga kasanayan sa programming ng ChatGPT at ang paggamit ng mga ito para lamang sa pagbuo ng AI-written malware ay isa pang ganap.

Siyempre, magiging posible rin sa teorya para sa WormGPT na maging isang aktwal na honey-pot, at sanayin ang isang ahente ng AI tulad ng mga ito upang lumikha ng functional malware. na laging nahuhuli at sinisiguradong kilalanin ang nagpadala nito. Hindi namin sinasabi na iyon ang nangyayari sa WormGPT, ngunit posible. Kaya ang sinumang gumagamit nito ay mas mahusay na suriin ang kanilang code, isang linya sa isang pagkakataon.

Sa kaso ng mga pribadong binuo na ahente ng AI na ito, mahalagang tandaan na kakaunti (kung mayroon man) ang magpapakita ng mga pangkalahatang kakayahan kasama ng kung ano ang inaasahan namin mula sa ChatGPT ng OpenAI. Bagama’t ang mga diskarte at tool ay lubos na bumuti, isa pa rin itong magastos at matagal na pagsisikap na sanayin ang isang ahente ng AI nang walang wastong pagpopondo (at data). Ngunit ito ay isang bagay ng katotohanan na habang ang mga kumpanya ay tumatakbo patungo sa AI goldrush, ang mga gastos ay patuloy na bumababa, ang mga dataset at mga pamamaraan ng pagsasanay ay gaganda, at parami nang parami, ang mga pribadong ahente ng AI tulad ng WormGPT at BratGPT ay patuloy na lalabas.

Maaaring ang WormGPT ang kauna-unahang ganoong sistema na naabot ang pangunahing pagkilala, ngunit tiyak na hindi ito ang huli.