Mifumo ya AI yenye hatari kubwa ndiyo kitovu cha Kanuni za AI za Ulaya ( Kanuni (EU) 2024/1689 ), ambazo kwa kawaida hujulikana kama Sheria ya AI, ambayo huanzisha mfumo unaotegemea hatari kwa ajili ya kutengeneza, kusambaza na kutumia mifumo ya akili bandia (AI). Kadiri hatari kwa afya, usalama na haki za msingi zinavyoongezeka, ndivyo majukumu yanavyozidi kuwa mazito.
Kwa mashirika, kufuata sheria hakuanzii kwa kuandika nyaraka za kiufundi, bali kwa uainishaji sahihi. Kwanza tambua ni mifumo gani ya akili bandia inayotengenezwa, kununuliwa au kutumika ndani ya shirika. Kisha tathmini kama mfumo umepigwa marufuku , una hatari kubwa, una majukumu ya uwazi, au nje ya majukumu yoyote maalum.
Makala haya yanaelezea wakati ambapo mfumo wa AI unaweza kuhesabiwa kuwa hatari kubwa, ni majukumu gani yanayotumika kwa watoa huduma na wasambazaji, na ni hatua gani mashirika yanaweza kuchukua sasa. Pia yanashughulikia ratiba ya sasa, ikiwa ni pamoja na mabadiliko chini ya mchakato wa Digital Omnibus. Tarehe ya marejeleo ya makala haya ni 25 Julai 2026.
Ni lini mfumo wa AI unakuwa hatari kubwa?
Tathmini ya mifumo ya AI yenye hatari kubwa inafanywa kimsingi chini ya Kifungu cha 6 na Viambatisho I na III vya Sheria ya AI. Kuna njia mbili.
Njia ya kwanza inahusu mifumo ya akili bandia (AI) ambayo ni sehemu ya bidhaa zinazofunikwa na sheria ya bidhaa za Ulaya zilizoorodheshwa katika Kiambatisho cha I na zinazohitaji tathmini ya ulinganifu ya mtu wa tatu. Fikiria vifaa fulani vya matibabu, mashine, lifti na vinyago. Kwa mifumo hii, Sheria ya akili bandia inajengwa juu ya utaratibu uliopo wa tathmini ya ulinganifu.
Njia ya pili inahusu mifumo ya AI inayotumika katika nyanja zilizoorodheshwa katika Kiambatisho cha III: biometriki, miundombinu muhimu, elimu na mafunzo ya ufundi, ajira na usimamizi wa nguvu kazi, upatikanaji wa huduma muhimu za kibinafsi na za umma, utekelezaji wa sheria, uhamiaji, hifadhi na udhibiti wa mipaka, na usimamizi wa haki na michakato ya kidemokrasia. Sio kila matumizi ndani ya uwanja kama huo husababisha uainishaji kiotomatiki kati ya mifumo ya AI yenye hatari kubwa: kazi maalum ya mfumo na masharti ya Kifungu cha 6 lazima pia yatathminiwe.
Isipokuwa katika Kifungu cha 6(3)
Mfumo unaoangukia ndani ya kikoa cha Kiambatisho cha III hauhesabiwi kiotomatiki miongoni mwa mifumo ya AI yenye hatari kubwa: uainishaji huo haujatengwa ambapo hauleti hatari kubwa kwa afya, usalama au haki za msingi za watu na hauathiri matokeo ya kufanya maamuzi. Hiyo inaweza kuwa hali ambapo mfumo hufanya kazi finyu ya kiutaratibu, huboresha tu shughuli ambayo tayari imefanywa na mwanadamu, huashiria tu kupotoka kutoka kwa maamuzi ya awali ya mwanadamu bila kubadilisha tathmini hiyo, au hufanya kazi ya maandalizi pekee.
Kuegemea kwa ubaguzi huu lazima kuzingatiwe kwa uangalifu na kuandikwa. Shirika halirekodi tu hitimisho, bali pia ukweli na tathmini ambayo hitimisho hilo linategemea. Mtoa huduma anayezingatia kwamba mfumo wa Kiambatisho III haufai miongoni mwa mifumo ya AI yenye hatari kubwa lazima aandike tathmini hiyo kabla ya mfumo kuwekwa sokoni au kuwekwa katika huduma, na pia yuko chini ya wajibu wa usajili katika Kifungu cha 49(2).
Katika sehemu moja Kanuni hiyo ni kamili. Kifungu cha 6(3) kinasema kwamba mfumo wa AI unaorejelewa katika Kiambatisho cha III huhesabiwa kila wakati miongoni mwa mifumo ya AI yenye hatari kubwa ambapo hufanya uchunguzi wa watu wa kawaida. Isipokuwa katika hali hiyo haiwezi kutumika.
Shirika lako lina jukumu gani?
Sheria ya AI inatofautisha majukumu kadhaa katika mnyororo. Mawili kati ya hayo ni muhimu kwa mashirika mengi. Chama kinachounda mfumo wa AI, au kuuweka sokoni chini ya jina lake au chapa ya biashara, kinastahili kuwa mtoa huduma. Chama kinachotumia mfumo wa AI katika shughuli zake bila kuuendeleza kwa ujumla kinastahili kuwa msambazaji.
Ugawaji huo wa majukumu si tuli. Shirika linalobadilisha kwa kiasi kikubwa mfumo ulionunuliwa, kuusambaza kwa jina lake au chapa ya biashara, au kubadilisha madhumuni yake yaliyokusudiwa, bado linaweza kuchukuliwa kama mtoa huduma na hivyo kuanguka chini ya seti kubwa ya majukumu. Amua kwa kila mfumo ni jukumu gani unalotimiza, na urekodi tathmini hiyo.
Majukumu makuu
Watoa huduma wa mifumo ya AI yenye hatari kubwa wanakabiliwa na majukumu ikiwa ni pamoja na yale yaliyo katika Makala ya 8 hadi 17, 43 na 47 hadi 49:
- mfumo wa usimamizi wa hatari unaofunika mzunguko mzima wa maisha
- utawala wa data, ikiwa ni pamoja na kugundua na kurekebisha upendeleo katika data iliyotumika, ikiwa ni pamoja na mafunzo, uthibitishaji na upimaji wa data
- nyaraka za kiufundi kulingana na Kiambatisho IV, na kumbukumbu ya matukio
- maelekezo wazi ya matumizi kwa wasambazaji
- muundo unaowezesha usimamizi bora wa binadamu
- mahitaji kuhusu usahihi, uimara na usalama wa mtandao
- mfumo wa usimamizi wa ubora, tathmini ya ulinganifu, tamko la EU la ulinganifu, alama ya CE na usajili katika hifadhidata ya EU
Kwa mifumo ya AI yenye hatari kubwa inayotumika kwa utambuzi wa mbali wa kibiometriki kama ilivyotajwa katika Kiambatisho cha III, nukta ya 1(a), Kifungu cha 14(5) kinaweka sharti la ziada juu ya usimamizi wa binadamu: hakuna hatua au uamuzi unaoweza kuchukuliwa kwa msingi wa utambuzi isipokuwa umethibitishwa kando na kuthibitishwa na angalau watu wawili wa kawaida wenye uwezo, mafunzo na mamlaka muhimu. Hii inajulikana kama kanuni ya macho manne.
Wasambazaji wanakabiliwa na majukumu mepesi lakini muhimu kama yalivyo katika Kifungu cha 26 na 27: matumizi kulingana na maagizo ya matumizi, usimamizi bora wa kibinadamu, ufuatiliaji wa uendeshaji wa mfumo, kuripoti hatari na matukio makubwa, na uhifadhi wa kumbukumbu kwa angalau miezi sita. Wafanyakazi watakaofanya kazi na mfumo, na watu ambao unatumika kwao, lazima wajulishwe mapema.
Baadhi ya wasambazaji lazima pia wafanye tathmini ya athari za haki za msingi, Tathmini ya Athari za Haki za Msingi chini ya Kifungu cha 27. Hii inatumika katika hali yoyote kwa vyombo vinavyoongozwa na sheria za umma, kwa watoa huduma binafsi wa umma, na kwa wasambazaji wanaotumia mifumo ya alama za mikopo au kwa ajili ya kutathmini hatari za bima katika bima ya maisha na afya.
Mfuatano wa matukio na hali ya sasa
Sheria ya AI ilianza kutumika tarehe 1 Agosti 2024 na inaanza kutumika kwa awamu. Kiutendaji ni muhimu kutofautisha kati ya majukumu ambayo tayari yanatumika, majukumu yenye tarehe ya maombi ya baadaye, na marekebisho yaliyotangazwa ambayo kuanza kutumika rasmi bado hakujakamilika.
Vitendo vilivyopigwa marufuku (Kifungu cha 5): Vinatumika tangu 2 Februari 2025
Ujuzi wa AI (Kifungu cha 4): Hutumika tangu 2 Februari 2025
Mifumo ya AI ya madhumuni ya jumla: Inatumika tangu 2 Agosti 2025
Majukumu ya uwazi (Kifungu cha 50): Yanatumika kuanzia tarehe 2 Agosti 2026; hayajaahirishwa
Hatari Kubwa kupitia Kiambatisho cha III: Rasmi bado ni tarehe 2 Agosti 2026; mara tu Omnibus itakapoanza kutumika, tarehe 2 Desemba 2027 hivi karibuni
Hatari Kubwa kupitia Kiambatisho I: Rasmi bado ni tarehe 2 Agosti 2027; mara tu Omnibus itakapoanza kutumika, tarehe 2 Agosti 2028 hivi karibuni
Mnamo tarehe 19 Novemba 2025, Tume ya Ulaya ilichapisha kifurushi cha Digital Omnibus, ikipendekeza kuahirisha utekelezaji wa majukumu ya mifumo ya AI yenye hatari kubwa. Makubaliano ya muda ya kisiasa yalifikiwa mnamo tarehe 7 Mei 2026. Bunge la Ulaya lilitoa idhini yake mnamo tarehe 16 Juni 2026 na Baraza likatoa idhini yake ya mwisho mnamo tarehe 29 Juni 2026.
Hata hivyo, kufikia tarehe ya marejeleo ya makala haya, uchapishaji katika Jarida Rasmi la Umoja wa Ulaya bado haujakamilika. Marekebisho hayo yanaanza kutumika siku ya tatu baada ya uchapishaji huo. Hadi wakati huo ratiba ya awali ya Sheria ya AI inasalia kuwa sheria inayotumika, huku tarehe 2 Agosti 2026 ikiwa tarehe ya maombi ya majukumu yenye hatari kubwa chini ya Kiambatisho cha III. Uchapishaji kabla ya tarehe hiyo unatarajiwa sana, lakini bado haujathibitishwa.
Uahirishaji huo pia umepangwa kwa masharti. Utekelezaji wa majukumu ya mifumo ya AI yenye hatari kubwa unahusishwa na uamuzi wa Tume unaothibitisha kwamba viwango muhimu vilivyooanishwa na vyombo vya usaidizi vinapatikana, ikifuatiwa na kipindi cha mpito. Tarehe za 2 Desemba 2027 na 2 Agosti 2028 hufanya kazi kama tarehe za nyuma badala ya kuahirishwa tu.
Mambo mawili yanastahili kuzingatiwa tofauti. Kwanza, majukumu ya uwazi ya Kifungu cha 50 na wajibu wa ujuzi wa akili bandia wa Kifungu cha 4 hayajaahirishwa: yanabaki kwenye ratiba yake ya awali. Pili, kifurushi kinaongeza katazo jipya kwa Kifungu cha 5, linalolenga matumizi ya akili bandia kutoa picha za siri zisizo za ridhaa na nyenzo za unyanyasaji wa kingono wa watoto zinazozalishwa na akili bandia.
Kwa mashirika hii ina maana kwamba kupanga dhidi ya Desemba 2027 ni jambo la busara, lakini utunzaji wa kumbukumbu unapaswa kupangwa kwa sasa kana kwamba Agosti 2026 bado inafungamana, hadi Jarida Rasmi litakaposema vinginevyo.
Usimamizi na adhabu
Nchini Uholanzi, sheria za utekelezaji wa Sheria ya AI bado hazijakamilika hadi tarehe ya marejeleo ya makala haya. Mamlaka ya Uholanzi ya Miundombinu ya Dijitali na Mamlaka ya Ulinzi wa Data ya Uholanzi zinatarajiwa kuchukua jukumu kuu la uratibu, huku wasimamizi wa sekta wakiendelea kuwajibika ndani ya nyanja zao. Hata hivyo, mgawanyo sahihi wa mamlaka na msingi wake wa kisheria lazima uamuliwe kwa msingi wa sheria ya mwisho ya utekelezaji ya Uholanzi.
Kifungu cha 99 cha Sheria ya AI kinatoa kategoria kadhaa za adhabu ya juu zaidi. Kiwango hicho kinategemea aina ya ukiukaji na, inapohitajika, juu ya mauzo ya kila mwaka ya kampuni hiyo duniani kote. Kiwango cha juu zaidi kinatumika kwa ukiukaji wa vitendo vilivyokatazwa katika Kifungu cha 5; kiwango cha chini kinatumika kwa ukiukaji wa majukumu mengine, ikiwa ni pamoja na yale ya watoa huduma na wasambazaji wa mifumo ya AI yenye hatari kubwa; na kiwango cha chini kinatumika kwa kutoa taarifa zisizo sahihi, zisizo kamili au za kupotosha kwa mamlaka. Mfumo unaofaa zaidi unatumika kwa biashara ndogo na za kati (SMEs), ikiwa ni pamoja na biashara changa. Adhabu halisi huamuliwa kwa kuzingatia sheria zinazotumika kuhusu adhabu na hali ya kesi.
Ramani ya vitendo
- Orodhesha mifumo yote ya akili bandia inayotengenezwa na shirika lako, ununuzi au matumizi yake.
- Amua kwa kila mfumo jukumu unalotimiza: mtoa huduma au msambazaji.
- Amua kategoria ya hatari kwa kila mfumo na uandike tathmini hiyo, ikijumuisha utegemezi wowote wa ubaguzi katika Kifungu cha 6(3).
- Kuanzisha utawala wa akili bandia na kumteua afisa anayewajibika.
- Hakikisha uelewa wa akili bandia (AI) miongoni mwa wafanyakazi wanaofanya kazi na mifumo hii; wajibu huo tayari unatumika.
- Tayarisha hatua za uwazi chini ya Kifungu cha 50 kwa lengo la tarehe 2 Agosti 2026.
- Anza nyaraka za kiufundi na, inapohitajika, tathmini ya athari za haki za msingi kwa wakati unaofaa.
- Kupitia mikataba ya wasambazaji kuhusu ugawaji wa majukumu, utoaji wa taarifa na haki za ukaguzi.
- Fuatilia uchapishaji wa kifurushi cha Omnibus katika Jarida Rasmi na urekebishe upangaji wako ipasavyo.
Hitimisho
Sheria ya AI inaathiri kimsingi jinsi mashirika yanavyoendeleza, kununua na kutumia AI. Kuahirishwa kutangazwa kwa majukumu ya hatari kubwa hutoa muda wa ziada, lakini bado si sheria inayotumika, na majukumu ambayo tayari yanatumika au kuanza kutumika tarehe 2 Agosti 2026 hayajaathiriwa nayo. Kwa hivyo, mbinu ya busara ni kupanga dhidi ya tarehe mpya huku tukiwa tayari kwa zile za zamani. Kwa muhtasari mpana wa kanuni, tazama Mwongozo wetu Kamili wa Sheria ya AI ya EU , ambayo inakamilisha mkazo wa makala haya kwenye mifumo ya AI ya hatari kubwa.
Law & More husaidia mashirika kuorodhesha na kuainisha mifumo yao ya AI, kubaini jukumu lao kama mtoa huduma au msambazaji, kupitia na kuandika mikataba na wasambazaji wa AI, na kuanzisha utawala wa AI. Je, ungependa kujua ni majukumu gani yanayotumika kwa sasa kwa shirika lako na ni hatua gani zinazopaswa kupewa kipaumbele? Tafadhali jisikie huru kuwasiliana nasi kwa majadiliano yasiyo na wajibu.
Maswali yanayoulizwa mara kwa mara
Hapa chini tunajibu maswali tunayoulizwa mara nyingi kuhusu mada hii.
Sheria ya AI ni nini?
Kanuni ya AI ya Ulaya (Kanuni (EU) 2024/1689). Ilianza kutumika tarehe 1 Agosti 2024 na inaanza kutumika kwa awamu, huku majukumu yakiongezeka kadri hatari inayotokana na mfumo wa AI inavyoongezeka.
Ni lini mfumo wa AI unakuwa hatari kubwa?
Kupitia njia mbili: kama sehemu ya bidhaa inayofunikwa na sheria ya bidhaa iliyoorodheshwa katika Kiambatisho cha I, au kupitia matumizi ndani ya moja ya nyanja zilizoorodheshwa katika Kiambatisho cha III. Katika hali ya mwisho, uwanja pekee sio wa kuamua; kazi maalum na masharti ya Kifungu cha 6 pia yanahesabiwa.
Je, mfumo wa Kiambatisho cha III unaweza kuwa nje ya kundi la hatari kubwa?
Ndiyo, pale ambapo haileti hatari kubwa na haiathiri sana ufanyaji maamuzi, kwa mfano pale ambapo hufanya kazi finyu ya kiutaratibu au ya maandalizi tu. Tathmini hiyo lazima iandikwe. Pale ambapo mfumo hufanya uainishaji wa watu wa kawaida, ubaguzi hautumiki kamwe.
Je, mimi ni mtoa huduma au msambazaji?
Wewe ni mtoa huduma ikiwa utaunda mfumo au kuuweka sokoni chini ya jina lako mwenyewe au chapa ya biashara, na kwa ujumla ni mtoa huduma ikiwa unatumia mfumo ulionunuliwa. Ukibadilisha kwa kiasi kikubwa mfumo ulionunuliwa au kuusambaza chini ya jina lako mwenyewe, bado unaweza kuwa mtoa huduma.
Ni majukumu gani yanayowahusu watoa huduma?
Miongoni mwa mambo mengine, usimamizi wa hatari, utawala wa data, nyaraka za kiufundi, kumbukumbu, maagizo ya matumizi, usimamizi wa binadamu, mahitaji ya usahihi na usalama wa mtandao, mfumo wa usimamizi wa ubora, tathmini ya ulinganifu, alama ya CE na usajili katika hifadhidata ya EU.
Ni majukumu gani yanayotumika kwa wasambazaji?
Matumizi kwa mujibu wa maelekezo, usimamizi mzuri wa kibinadamu, ufuatiliaji, kuripoti hatari na matukio makubwa, na uhifadhi wa kumbukumbu kwa angalau miezi sita. Wafanyakazi wanaohusika na watu ambao mfumo huo unatumika lazima wajulishwe mapema.
Tathmini ya athari za haki za msingi inapaswa kufanywa lini?
Kifungu cha 27 kinahitaji hili, miongoni mwa mengine, vyombo vinavyoongozwa na sheria za umma, watoa huduma binafsi wa umma, na wasambazaji wanaotumia mifumo ya kupata alama za mikopo au kwa ajili ya kutathmini hatari za bima katika bima ya maisha na afya.
Je, majukumu yenye hatari kubwa yameahirishwa?
Marekebisho yaliyopitishwa yanaahirisha maombi hadi tarehe 2 Desemba 2027 kwa Kiambatisho cha III na tarehe 2 Agosti 2028 kwa Kiambatisho cha I. Kwa tarehe ya marejeleo ya makala haya marekebisho hayo bado hayajachapishwa katika Jarida Rasmi, kwa hivyo tarehe ya awali ya tarehe 2 Agosti 2026 bado inatumika rasmi.
Ni nini tayari kinatumika leo?
Vitendo vilivyopigwa marufuku vya Kifungu cha 5 na wajibu wa kusoma na kuandika kwa AI tangu 2 Februari 2025, na sheria kwa madhumuni ya jumla mifumo ya AI tangu 2 Agosti 2025. Majukumu ya uwazi ya Kifungu cha 50 yanaanza kutumika tarehe 2 Agosti 2026 na hayajaahirishwa.
Nani anasimamia Sheria ya AI nchini Uholanzi?
Sheria za utekelezaji bado hazijakamilika. Mamlaka ya Uholanzi ya Miundombinu ya Dijitali na Mamlaka ya Ulinzi wa Data ya Uholanzi zinatarajiwa kuchukua jukumu kuu la uratibu, pamoja na wasimamizi wa kisekta. Mgawanyo wa mwisho wa mamlaka utafuata kutoka kwa sheria za utekelezaji za Uholanzi.
Shirika langu linapaswa kufanya nini sasa?
Anza na orodha ya mifumo yote ya AI unayounda, unayonunua au unayotumia. Rekodi kwa kila mfumo jukumu lako, kundi gani la hatari linalotumika na majukumu yanayofuata. Pia anzisha utawala wa AI, hakikisha uelewa wa AI, na upitie mikataba ya wasambazaji kuhusu ugawaji wa majukumu, utoaji wa taarifa na haki za ukaguzi.
