La danjeri di artifical inteligenteso

Risko existala pro artifical inteligenteso esas la hipotezo ke progreso substancal en artifical inteligenteso (AI) povus uldie rezultar en extingeso di la homaro, od ul altra katastrofo global neinversigebla.

On argumentas ke la speco homala hodie dominacas altra speci pro ke la cerebro homala havas ula kapablesi distinta quin altra animali indijas. Se AI superiros la homaro segun inteligenteso general e divenos "superinteligenta", lore ca nova superinteligenteso povus divenar potenta e desfacile regulebla.

Same quale la fato di la monto-gorilo dependas de la bonvolo di homi, tale povus la fato di la homaro dependar del agi da futura superinteligenteso mashinal.

La probableso de ca tipo de cenaro debatesas cirkum la mondo, e dependas parte de cenari diferanta di progreso futura en cienco *komputorala. Olim la domeno exkluziva di cienco-fiktivo, sucii pri superinteligenteso komencis divenar general dum la yardeko 2010, e popularigesis da personi publika quala Stephen Hawking, Bill Gates, ed Elon Musk.

Un fonto de sucio esas ke regular mashino superinteligenta, od instilar ol per valori konciliebla kun homi, povas esar problemo plu desfacila kam on supozas naive. Multa resercheri kredas ke superinteligenteso naturale rezistus esforci haltigar ol o chanjar olua skopi - principo nomizita "konvergo instrumental" - e ke pre-programizar superinteligenteso per ensemblo plena de valori homala esos tasko teknikal extreme desfacila.

Kontraste, skeptiki quala Yann LeCun di Facebook argumentas ke mashini superinteligenta havos nula deziro prezervar su.

Duesma fonto de sucio esas ke "explozo de inteligenteso" subita e neprevidita povus surprizar homaro nepreparinta. Exemple, en un cenaro, la komputoro-programo di unesma generaciono qua povas generale egalesar la efikiveso di reserchero di AI, povas riskribar sua algoritmi e duopligar sua rapideso o kapablesi dum sis monati.

On expektas ke la programo di duesma generaciono bezonus tri monati kalendarial por exekutar simila peco de laboro, mezvalore; praktike, duopligar sua propra kapablesi povus durar plu longe se ol experiencas mikra "AI-vintro", o povus esar plu rapida se ol subisas mikra "AI-printempo" ube idei del antea generaciono esas aparte facile mutacebla aden la generaciono sequanta.

En ica cenaro la tempo por singla generaciono duras deskreskar, ed en la sistemo eventas plura generacioni de granda plubonesko senprecedenta dum kurta tempo, saltante de eficienteso subhomala en multa arei ad eficienteso superhomala en omna arei relatanta.

Plu generale, exempli quala AlphaZero por la ludo Go montras ke progreso de AI di nivelo homal a habileso superhomala esas kelkafoye extreme rapida.


Segun Wikipedia Angla


Back to Ido

James Chandler 16-Jun-20