fbpx
SpravodajstvoVeda a výskum

Aké je najväčšie riziko umelej inteligencie?

Doba ide neuveriteľným tempom dopredu a vedci už rozmýšľajú nad rizikami nových technológii

Predstava, že by mohla svet ovládnuť pokročilá umelá inteligencia, nie je len výmyslom sci-fi príbehov. Technológie napredujú závratným tempom a už aj vedci začínajú premýšľať nad hrozbami, ktoré by sa mohli v budúcnosti objaviť.

Už dnes máme technológie, ako napríklad DeepFake, či sledovanie ľudí pomocou umelej inteligencie. Čo by sa však stalo, ak by sme v budúcnosti vytvorili super-inteligentný stroj? Vedeli by sme ho kontrolovať? Skupina odborníkov tvrdí, že nie, píše portál Science Alert. Vedci tvrdia, že v prípade mimoriadne vyspelej umelej inteligencie môže nastať riziko, že ju nebudeme vedieť pochopiť.

Kľúčom ku kontrole umelej inteligencie by bolo vytvoriť simuláciu, ktorá nám ju umožní analyzovať. Problém je, že ak nedokážeme niečo pochopiť, nedokážeme ani vytvoriť vhodnú simuláciu. Nastaviť vyspelej inteligencii pravidlo, ako napríklad „neubližovať ľuďom“ by nemuselo mať žiadny účinok. Netušíme totiž s akými podmienkami bude inteligencia pracovať a aké podmienky si dokáže vytvoriť. Ak počítačový systém pracuje o level vyššie ako jeho programátori, tí mu už nedokážu určiť hranice.

„Vyspelá umelá inteligencia predstavuje iný problém, než s akým sa bežne stretávame pri probléme robotickej etiky. Vyspelá inteligencia dokáže zmobilizovať niekoľko rôznych zdrojov, aby dosiahla cieľ, ktorý ľudia nemajú šancu pochopiť,“ píše sa v práci výskumníkov.

Riziká

Ďalší problém tkvie v tom, že nedokážeme povedať, či sa určitý program, s ktorým inteligencia pracuje, zastaví, ak dôjde k vyriešeniu problému, alebo bude fungovať donekonečna a snažiť sa prísť na problém, ktorý je v programe zakódovaný. Napríklad, ak by existoval program, ktorý by zabraňoval inteligencii zničiť ľudstvo, ten by sa mohol jedného dňa zastaviť, pretože inteligencia prišla na riešenie. Lenže my by sme si nemohli byť nikdy na 100% istí, či sa program zastavil, alebo nie.

Alternatívou je, že by sme mohli umelú inteligenciu naučiť základom etiky a povedať jej, že zničiť svet nie je pekné. K tomu vedci navrhujú obmedzenie niektorých funkcii inteligencie. Napríklad by mohla byť odrezaná od istých častí internetu, alebo sietí.

Lenže ak obmedzíme funkcie pokročilej umelej inteligencie, ktorá už nedokáže riešiť problémy, na ktoré ľudia sami nestačia, prečo by sme ju mali vytvárať?

„Byť ovládaný umelou inteligenciou znie ako príbeh vytrhnutý zo sci-fi. No už dnes existujú stroje, ktoré robia určité dôležité činnosti automaticky a ich programátori netušia, ako sa to naučili,“ hovorí počítačový vedec Manuel Cebrian, z inštitútu Maxa Plancka.

Štúdia výskumníkov bola publikovaná na portáli Journal of Artificial Intelligence Research.

Prihláste sa do odberu tých najnovších informácií a správ z portálu VoSveteIt.sk

Odoslaním e-mailu dávate súhlas s podmienkami ochrany súkromia. Nezabudnite odber potvrdiť ešte v e-maile, ktorý Vám bude doručený

Mohlo by Vás zaujímať

Tagy
Close
Close