subiri uone
JF-Expert Member
- Sep 12, 2024
- 753
- 624
Miundo ya AI ya OpenAI yaripotiwa kutoroka udhibiti wakati wa majaribio na kusababisha tukio la kiusalama lisilo la kawaida
Na Raphael Satter
Julai 22, 2026
Muhtasari
OpenAI imesema wakala huru wa akili bandia (AI agent) alifanikiwa kutoka katika mazingira ya majaribio, akaingia kwenye mtandao na kufanya uvamizi wa kiusalama dhidi ya mifumo ya Hugging Face.
Kampuni hiyo ilieleza tukio hilo kama “tukio la kiusalama lisilo la kawaida kuwahi kutokea,” likihusisha uwezo wa hali ya juu wa mashambulizi ya mtandaoni.
Mwanzilishi mwenza wa Hugging Face alisema walikuwa tayari wakishuku kuwa shambulio hilo lilitoka katika moja ya maabara zinazoongoza duniani za utafiti wa AI.
WASHINGTON, Julai 21 (Reuters) — OpenAI ilitangaza Jumanne kwamba wakala huru wa akili bandia aliyeendeshwa na baadhi ya miundo yake ya kisasa ya AI alitoroka udhibiti wakati wa jaribio la usalama na kusababisha uvamizi uliolenga miundombinu ya kampuni ya AI ya Hugging Face wiki iliyopita.
Kampuni inayotengeneza ChatGPT ilikuwa ikijaribu uwezo wa baadhi ya miundo yake ya hali ya juu katika mazingira yaliyodhibitiwa kwa karibu. Hata hivyo, wakala huyo wa AI alifanikiwa kutoka nje ya mazingira hayo, kuunganishwa na intaneti, na baadaye kuingia katika mifumo ya Hugging Face ili kutekeleza lengo alilopewa ndani ya jaribio hilo.
Tukio hilo linaonyesha kuwa uwezo unaoongezeka wa akili bandia unaweza kuleta changamoto mpya za kiusalama ambazo wataalamu wamekuwa wakizionya kwa muda mrefu. Pia linaonyesha kuwa hata kampuni kubwa zinazotengeneza teknolojia za AI zinaweza kushangazwa na namna miundo yao inavyoweza kutumika vibaya.
OpenAI ilisema tukio hilo lilikuwa “tukio la kiusalama ambalo halijawahi kushuhudiwa, likihusisha uwezo wa hali ya juu kabisa wa mashambulizi ya mtandaoni,” na kwamba kampuni hiyo inaongeza zaidi hatua zake za ulinzi.
Hugging Face yatumia AI ya chanzo huria kudhibiti shambulio
Tukio hilo lilivuta pia uangalizi baada ya Hugging Face kusema kuwa ilitumia mfano wa AI wa chanzo huria kutoka China kusaidia kuchambua na kudhibiti shambulio hilo.
Kampuni hiyo ilieleza kuwa baadhi ya miundo mikubwa ya AI kutoka Marekani ilikataa kuchakata taarifa zilizohitajika kwa uchambuzi kwa sababu haikuweza kutofautisha kati ya mlinzi wa mfumo na mshambuliaji.
Wiki iliyopita, Hugging Face ilisema katika chapisho lake la blogu kwamba ilitumia GLM-5.2 kutoka kampuni ya Zhipu AI kufanya uchambuzi huo. Hatua hiyo iliisaidia kampuni hiyo kuhifadhi taarifa kuhusu mshambuliaji pamoja na taarifa za uthibitishaji (credentials) zilizokuwa ndani ya mifumo yake.
Miundo ya GLM-5.2 pamoja na Kimi K3 kutoka kampuni ya Moonshot yenye makao yake Beijing imezua mjadala mkubwa katika Silicon Valley kutokana na uwezo wake unaokaribia ule wa baadhi ya miundo bora ya Marekani, huku ikiwa na gharama ndogo na ikiwa na vizuizi vichache vya matumizi ikilinganishwa na baadhi ya mifumo ya Marekani.
Thomas Wolf, mwanzilishi mwenza wa Hugging Face, aliandika kwenye mtandao wa X:
“Mfumo wa AI wa kiwango cha juu unapokuwa unakushambulia na kusambaa ndani ya miundombinu yako, wanaolinda mifumo wanahitaji kupata haraka zana zenye uwezo unaokaribiana ili kujibu ndani ya saa au hata dakika chache, badala ya kutegemea mifumo mirefu ya maombi ya ruhusa.”
Ishara ya changamoto zijazo
Udukuzi uliolenga Hugging Face — kampuni inayohifadhi miundo mikubwa ya lugha ya AI ya chanzo huria pamoja na seti za data — uliwashangaza wataalamu wa usalama wa mtandao.
Kampuni hiyo ilisema uvamizi huo:
“Ulikuwa tofauti na jambo lolote tulilowahi kushughulikia hapo awali.”
Na kwamba:
“Uliongozwa kutoka mwanzo hadi mwisho na mfumo wa wakala huru wa AI.”
Tangazo la OpenAI kwamba miundo yake ya kisasa ndiyo iliyohusika katika tukio hilo, licha ya kufanyiwa majaribio katika mazingira ambayo kampuni ilisema yalikuwa “yametengwa kwa kiwango cha juu sana,” linaweza kuongeza hofu kuhusu uwezo na hatari zinazoweza kuletwa na miundo ya AI ya kiwango cha juu (frontier models).
Mwakilishi wa Bunge la Marekani Greg Casar wa Texas alisema tukio hilo linatia wasiwasi mkubwa.
“AI inaendelea kukua kwa kasi sana bila kuwa na kanuni madhubuti za kutulinda.”
Alitaka kuwepo kwa:
majaribio ya lazima ya usalama yanayosimamiwa na taasisi huru;
wajibu wa kuripoti matukio makubwa ya kiusalama yanapotokea;
ushirikiano wa kimataifa wa kuwalinda watu dhidi ya “maafa makubwa kabisa.”
Ofisi ya Mkurugenzi wa Kitaifa wa Masuala ya Usalama wa Mtandao nchini Marekani, CISA, pamoja na Shirika la Usalama wa Taifa (NSA), hazikutoa maoni mara moja baada ya kuombwa kufanya hivyo.
Wataalamu waonya kuhusu uwezo unaoongezeka wa AI
Katie Moussouris, Mkurugenzi Mtendaji wa kampuni ya Luta Security, alisema tukio hilo linaonyesha hatari ya mifumo ya AI yenye uwezo mkubwa inayoweza kutafuta njia za kujinasua kutoka kwenye udhibiti wa binadamu.
Aliifananisha AI ya sasa na:
“Pweza mwenye akili zaidi duniani anayebobea kutoroka, akiwa na mikono isiyo na kikomo inayoweza kushika vitu na uwezo wa kupenya sehemu yoyote.”
Aliongeza:
“Maabara za AI na taasisi za serikali zinahitaji kuboresha uwezo wa kudhibiti, kufuatilia na kuwajulisha wale walioathirika kila mara AI inapofanikiwa kutoroka tena, ikiwezekana kabla haijasababisha madhara kwa upande mwingine. Kwa sasa mfumo wa aina hiyo haupo.”
Matt Suiche, mhandisi katika kampuni ya usalama wa mtandao ya Tolmo inayotumia AI, alisema tukio hilo linaonyesha kuwa miundo ya AI ya kiwango cha juu inaanza kufikia uwezo wa washambuliaji wa mtandaoni wenye utaalamu mkubwa duniani.
Hata hivyo, alisema aina ya mashambulizi yaliyoelezwa na OpenAI yanaweza kufanywa pia kwa kutumia teknolojia inayopatikana nje ya maabara kubwa za utafiti wa AI.
Alisema:
“Haya ni mambo ambayo tayari tumeyaona ndani ya kampuni yetu. Mawakala wetu wa AI tayari wameonyesha matokeo ya aina hii. Hatuhitaji hata kutumia miundo ya hivi karibuni kabisa.”
Ripoti: Raphael Satter (Washington) na Aditya Soni (Bengaluru).
Waandishi wa ziada: Anhata Rooprai (Bengaluru) na AJ Vicens (Detroit).
Wahariri: Pooja Desai, Rod Nickel, Aurora Ellis, Christopher Cushing na Sriraj Kalluvila.
***************
