Ce consecințe poate avea dezvoltarea necontrolată a inteligenței artificiale?

Într-un articol recent publicat în BMJ Global Health, cercetătorii au discutat despre pericolele pe care le prezintă utilizarea greșită a inteligenței artificiale (AI) și a inteligenței artificiale generale (AGI), precum și importanța anticipării și adaptării la efectele transformatoare ale inteligenței artificiale asupra societății.
Cercetătorii au identificat trei amenințări majore care decurg din utilizarea greșită a AI:

• În primul rând, AI ar putea crește oportunitățile de manipulare a indivizilor. Guvernele, cum ar fi China și alte 75 de țări, extind supravegherea bazată pe inteligență artificială, ceea ce poate duce la polarizarea societății și la răspândirea opiniilor extremiste. În plus, inteligența artificială poate fi utilizată pentru marketing personalizat pentru a manipula comportamentul consumatorilor, așa cum sa observat în manipularea convingerilor politice și a comportamentului alegătorilor în timpul alegerilor prezidențiale din SUA din 2016. Sistemul de credit social al Chinei, care se bazează pe analiza AI a datelor personale, restricționează accesul persoanelor la servicii și oportunități în funcție de comportamentul lor.

• A doua amenințare este legată de progresele în sistemele de arme autonome letale (LAWS). Armele autonome alimentate cu inteligență artificială pot identifica și viza oameni fără control uman, putând deveni arme de distrugere în masă. Organizațiile teroriste ar putea exploata aceste arme pentru atacuri în masă, cum ar fi echiparea dronelor cu explozibili și abilități de navigație autonome.

• A treia amenințare constă în implementarea extinsă a instrumentelor bazate pe inteligență artificială, care ar putea duce la pierderi semnificative de locuri de muncă în diferite sectoare. Locuri de muncă slab calificate din țările cu venituri mici și medii ar fi deosebit de vulnerabile, dar impactul s-ar extinde în cele din urmă la locurile de muncă cu calificare mai ridicată din țările cu venituri mari.

Dezvoltarea AGI introduce riscuri suplimentare, deoarece aceste programe au capacitatea de a învăța, de a-și îmbunătăți codul și de a-și dezvolta propriile scopuri. Consecințele implementării AGI în lumea reală sunt greu de prezis și există îngrijorări că ar putea dăuna sau subjuga oamenii. În plus, unele aplicații AI în domeniul sănătății, în ciuda potențialelor lor beneficii, au prezentat părtiniri și discriminare din cauza seturilor de date incomplete și părtinitoare.

Cercetătorii au subliniat necesitatea ca comunitatea medicală și de sănătate publică să crească gradul de conștientizare cu privire la riscurile asociate cu IA, similar eforturilor depuse pentru a aborda amenințarea războiului nuclear. Ei au sugerat, de asemenea, implementarea unor controale și echilibre adecvate pentru IA, consolidarea organizațiilor de interes public și a democrației. În plus, pledoaria bazată pe dovezi pentru politici sociale și economice transformatoare este necesară pentru a pregăti generațiile viitoare pentru o lume în care IA a modificat drastic peisajul ocupării forței de muncă.

În general, cercetătorii au cerut o abordare proactivă și prudentă a inteligenței artificiale, asigurându-se că dezvoltarea acesteia este aliniată cu cele mai bune interese ale umanității și ale societății.

sursa: News Medical
foto: metamorworks / Shutterstock