Umelá inteligencia objavila za 6 hodín až 40-tisíc potenciálnych chemických zbraní: Proces bol až desivo jednoduchý
Nová štúdia vedcov slúži ako varovanie pred silou umelej inteligencie.
Umelá inteligencia je ako stvorená na to, aby sa prehrabala cez tisíc rôznych chemických zlúčenín a vybrala tie najlepšie, ktoré by nám mohli pomôcť, napríklad pri výrobe liečiv. Každá minca má ale dve strany a tak, ako nám môže umelá inteligencia pomôcť, rovnako jednoducho nám dokáže aj ublížiť.
Dokazuje to nový výskum publikovaný v Nature Machine Intelligence. Stačilo len pár úprav a umelá inteligencia namiesto liekov našla za šesť hodín až 40-tisíc nových látok, ktoré by mohli byť použité ako chemické zbrane, informuje portál IFL Science. Niektoré látky boli podobné tej najúčinnejšej bojovej látke – VX. Je to jemne žltá kvapalina bez vône a do tela preniká cez kožu, oči a dýchacie cesty. Látka najprv vyvoláva nevoľnosť a kašeľ, neskôr ochromí dýchacie cesty, čo vedie k smrti.
Vedcov zaskočilo, aké jednoduché bolo preprogramovať umelú inteligenciu na zlé účely.
„Je to naozaj zarážajúce. Obrovské množstvo vecí môžete nájsť na internete zadarmo. Ak chcete, kľudne si môžete stiahnuť databázu toxických látok takmer odkiaľkoľvek. Ak poznáte niekoho so skúsenosťami v programovaní, zabralo by vám to pravdepodobne celý víkend, no výsledok by bol takmer rovnaký tomu, čo sa nám podarilo v laboratóriu,“ vysvetľuje Fabio Urbina, vedúci autor štúdie.
Vedci dlho uvažovali o tom, či svoju štúdiu verejne publikovať. Stačilo, aby upravili jeden faktor umelej inteligencie a ona namiesto látok, ktoré by mali pomáhať, našla tie najškodlivejšie toxíny pre človeka. S informáciami, ktoré sú voľne dostupné na internete môže prakticky ktokoľvek nájsť najjedovatejšie látky na Zemi.
Stačilo len málo
Umelá inteligencia MegaSyn bola špecificky navrhnutá tak, aby ľuďom pomáhala. Riadi sa sadov zákonov, ktoré podporujú bioaktivitu, schopnosť liečiva reagovať s ľudským telom a postihuje toxicitu. Vedcom stačilo, aby zmenili pravidlo pre toxicitu a za pár hodín prišla umelá inteligencia s desivými výsledkami.
Neprehliadnite
Stačilo len 6 hodín na to, aby umelá inteligencia došla k výrazným, no vysoko znepokojivým pokrokom. Ako prvé navrhla látku VX, ktorá sa považuje za najúčinnejšiu chemickú zbraň, aká bola kedy vytvorená. Táto látka sa použila napríklad pri vražde Kim Jong-nama, brata severokórejského lídra, Kim Jong-una.
Čo je možno znepokojivejšie je fakt, že umelá inteligencia navrhla niekoľko látok, ktoré by mohli byť ešte toxickejšie ako VX. V tomto bode autori štúdie podotýkajú, že túto informáciu zatiaľ neoverili a „určite sa ju ani nechystajú overiť“. Výsledky umelej inteligencie MegaSyn sa ale vždy radili medzi tie spoľahlivejšie.
Výsledky umelej inteligencie sú jedna vec, no na výrobu toxínu by vedci museli látku syntetizovať a otestovať. Nevie sa, koľko navrhnutých zlúčenín by nakoniec skutočne bolo toxických. Autori štúdie svojou prácou varujú na to, ako málo stačí k tomu, aby bola sila umelej inteligencie zneužitá.
Komentáre