Wakusoma 12
JF-Expert Member
- Jul 3, 2017
- 5,436
- 15,576
Mtafiti wa akili bandia (AI) aliyewahi kufanya kazi katika kampuni ya Anthropic, Jacob Coxon, amesema kwamba watu wanaofanya kazi katika sekta ya AI wana hofu kubwa kuhusu kasi ambayo teknolojia hiyo inaendelea na madhara ambayo inaweza kusababisha kwa binadamu.
Coxon, mwenye umri wa miaka 27, alijiuzulu kutoka Anthropic baada ya kuandika ujumbe uliosambaa sana akieleza wasiwasi wake kuhusu AI kutoweza kudhibitiwa.
Alisema:
“Ninaamini kwamba tusipopunguza kasi ya maendeleo ya sasa, kuna uwezekano mkubwa kwamba sote tunaweza kufa katika siku zijazo za karibu.”
⚠️ AI inaweza kuangamiza binadamu?
Coxon amesema baadhi ya watafiti wa AI wanaamini kwamba hatari kubwa inaweza kutokea ndani ya miaka miwili ijayo, huku baadhi wakifikiri kwamba matukio makubwa zaidi yanaweza kutokea hata ndani ya miezi 6 hadi mwaka mmoja.
Moja ya hali inayohofiwa ni kuibuka kwa mifumo mingi ya AI inayoweza kufanya kazi kwa kujitegemea na kutumia mtandao kwa kiwango kikubwa, kiasi cha kuwa vigumu kwa binadamu kuidhibiti.
Coxon alisema wafanyakazi katika kampuni za AI wanachukua suala hili kwa uzito kiasi kwamba baadhi yao:
wanafikiria namna ya kulinda maisha yao;
wanafikiria kuhusu kutokuwa na utulivu wa kijamii kutokana na AI;
wengine hata wanafikiria kununua ardhi maeneo fulani kwa ajili ya usalama wa baadaye.
Dario Amodei anaonaje?
Mkuu wa Anthropic, Dario Amodei, pia ametoa wito wa kupunguza kasi ya maendeleo ya AI ili serikali na makampuni zipate muda wa kushughulikia hatari zake.
Hata hivyo, Amodei hakusema kwamba maendeleo ya AI yasitishwe kabisa. Alisema AI inaweza kuleta manufaa makubwa, lakini hatari zake ni kubwa na za kipekee.
Coxon alisema kupunguza kasi kunapaswa kufanyika kwa ushirikiano wa kimataifa, hasa pamoja na China, kwa sababu vinginevyo nchi zinaweza kuingia katika mashindano makubwa ya kutengeneza AI yenye nguvu zaidi.
Sam Altman na Elon Musk
Kwa mujibu wa habari hiyo, Sam Altman wa OpenAI na Elon Musk wa xAI wameonyesha kukubaliana na wazo la kuwepo kwa udhibiti na ufuatiliaji huru wa maendeleo ya AI.
Lakini si kila mtu katika Silicon Valley anaamini kwamba hatari hiyo ni kubwa kiasi hicho.
Kwa mfano, Jensen Huang wa Nvidia amewahi kukataa wazo kwamba AI itakuwa mwisho wa ubinadamu, akilielezea kama jambo lisilo na msingi.
Mtafiti mwingine anaamini hatari ni zaidi ya 10%
Mtafiti wa Anthropic Evan Hubinger alijibu kwenye X kwamba anakubaliana na Coxon.
Alisema yeye binafsi anaona kuna uwezekano wa zaidi ya 10% ndani ya muongo mmoja kwamba AI inaweza kusababisha vifo vya binadamu wote.
Hili ni makadirio ya mtu binafsi, si utabiri uliothibitishwa kisayansi.
Lakini AI pia inaweza kuwa na faida kubwa
Coxon hakusema kwamba AI ni mbaya tu. Alisema watafiti wengi wa AI wanataka kuona upande mzuri wa teknolojia hiyo, kama vile:
kusaidia kutibu magonjwa;
kuboresha maisha ya watu;
kuongeza uwezo wa binadamu;
kusaidia kutatua matatizo makubwa duniani.
Kwa kifupi, mkuu
Hoja kubwa ya habari hii si kwamba “AI tayari imeamua kutuangamiza.” Hoja ni kwamba baadhi ya watu wanaojenga teknolojia hii wenyewe wanaamini kwamba kasi ya maendeleo inaweza kuwa kubwa kuliko uwezo wa serikali na jamii kuweka usalama na udhibiti unaotosha.
Kwa hiyo mjadala mkubwa sasa ni:
“Tunaendeleza AI kwa kasi gani, na tunahakikishaje kwamba AI yenye nguvu sana itaendelea kuwa chini ya udhibiti wa binadamu?”
Hiyo ndiyo hofu inayozungumziwa na Coxon, Amodei na baadhi ya watafiti wengine.
Coxon, mwenye umri wa miaka 27, alijiuzulu kutoka Anthropic baada ya kuandika ujumbe uliosambaa sana akieleza wasiwasi wake kuhusu AI kutoweza kudhibitiwa.
Alisema:
“Ninaamini kwamba tusipopunguza kasi ya maendeleo ya sasa, kuna uwezekano mkubwa kwamba sote tunaweza kufa katika siku zijazo za karibu.”
⚠️ AI inaweza kuangamiza binadamu?
Coxon amesema baadhi ya watafiti wa AI wanaamini kwamba hatari kubwa inaweza kutokea ndani ya miaka miwili ijayo, huku baadhi wakifikiri kwamba matukio makubwa zaidi yanaweza kutokea hata ndani ya miezi 6 hadi mwaka mmoja.
Moja ya hali inayohofiwa ni kuibuka kwa mifumo mingi ya AI inayoweza kufanya kazi kwa kujitegemea na kutumia mtandao kwa kiwango kikubwa, kiasi cha kuwa vigumu kwa binadamu kuidhibiti.
Coxon alisema wafanyakazi katika kampuni za AI wanachukua suala hili kwa uzito kiasi kwamba baadhi yao:
wanafikiria namna ya kulinda maisha yao;
wanafikiria kuhusu kutokuwa na utulivu wa kijamii kutokana na AI;
wengine hata wanafikiria kununua ardhi maeneo fulani kwa ajili ya usalama wa baadaye.
Dario Amodei anaonaje?
Mkuu wa Anthropic, Dario Amodei, pia ametoa wito wa kupunguza kasi ya maendeleo ya AI ili serikali na makampuni zipate muda wa kushughulikia hatari zake.
Hata hivyo, Amodei hakusema kwamba maendeleo ya AI yasitishwe kabisa. Alisema AI inaweza kuleta manufaa makubwa, lakini hatari zake ni kubwa na za kipekee.
Coxon alisema kupunguza kasi kunapaswa kufanyika kwa ushirikiano wa kimataifa, hasa pamoja na China, kwa sababu vinginevyo nchi zinaweza kuingia katika mashindano makubwa ya kutengeneza AI yenye nguvu zaidi.
Sam Altman na Elon Musk
Kwa mujibu wa habari hiyo, Sam Altman wa OpenAI na Elon Musk wa xAI wameonyesha kukubaliana na wazo la kuwepo kwa udhibiti na ufuatiliaji huru wa maendeleo ya AI.
Lakini si kila mtu katika Silicon Valley anaamini kwamba hatari hiyo ni kubwa kiasi hicho.
Kwa mfano, Jensen Huang wa Nvidia amewahi kukataa wazo kwamba AI itakuwa mwisho wa ubinadamu, akilielezea kama jambo lisilo na msingi.
Mtafiti mwingine anaamini hatari ni zaidi ya 10%
Mtafiti wa Anthropic Evan Hubinger alijibu kwenye X kwamba anakubaliana na Coxon.
Alisema yeye binafsi anaona kuna uwezekano wa zaidi ya 10% ndani ya muongo mmoja kwamba AI inaweza kusababisha vifo vya binadamu wote.
Hili ni makadirio ya mtu binafsi, si utabiri uliothibitishwa kisayansi.
Lakini AI pia inaweza kuwa na faida kubwa
Coxon hakusema kwamba AI ni mbaya tu. Alisema watafiti wengi wa AI wanataka kuona upande mzuri wa teknolojia hiyo, kama vile:
kusaidia kutibu magonjwa;
kuboresha maisha ya watu;
kuongeza uwezo wa binadamu;
kusaidia kutatua matatizo makubwa duniani.
Kwa kifupi, mkuu
Hoja kubwa ya habari hii si kwamba “AI tayari imeamua kutuangamiza.” Hoja ni kwamba baadhi ya watu wanaojenga teknolojia hii wenyewe wanaamini kwamba kasi ya maendeleo inaweza kuwa kubwa kuliko uwezo wa serikali na jamii kuweka usalama na udhibiti unaotosha.
Kwa hiyo mjadala mkubwa sasa ni:
“Tunaendeleza AI kwa kasi gani, na tunahakikishaje kwamba AI yenye nguvu sana itaendelea kuwa chini ya udhibiti wa binadamu?”
Hiyo ndiyo hofu inayozungumziwa na Coxon, Amodei na baadhi ya watafiti wengine.
