Dhima ya upendeleo wa kialgorithimu: ni nani anayewajibika chini ya sheria ya Uholanzi na EU?

Shirika linalotumia mfumo otomatiki linawajibika kwa matokeo ya kibaguzi linalozalisha, iwe lilijenga mfumo huo au la na kama mtu yeyote alikusudia matokeo hayo au la. Nchini Uholanzi dhima hiyo inategemea sheria ya makosa ya jinai (Kifungu cha 6:162 cha Kanuni za Kiraia za Uholanzi, BW), sheria ya usawa wa kutendewa na GDPR; sheria zenye hatari kubwa za Sheria ya AI ya EU kwa mifumo ya kuajiri, mikopo na bima zinatumika tu kuanzia tarehe 2 Desemba 2027.

Katika sheria ya ubaguzi ya Uholanzi, athari ya uamuzi inahesabiwa, si nia. Kichujio cha kuajiri, mfumo wa mikopo au alama ya ulaghai inayoathiri kundi linalolindwa inaweza kusababisha madai ya kiraia, malalamiko kwa Taasisi ya Haki za Binadamu ya Uholanzi na uchunguzi uliofanywa na Mamlaka ya Ulinzi wa Data ya Uholanzi, yote kwa ukweli uleule.

Upendeleo wa kialgorithimu ni nini na unatoka wapi?

Upendeleo wa kialgorithimu hutokea wakati mfumo unawatendea watu wanaofanana kwa njia tofauti katika msingi uliolindwa, au kwa kigezo kinachofanya kazi kama mbadala wa mmoja. Kwa sababu modeli hutumia muundo uleule kwa kila faili, modeli yenye upendeleo hufanya kazi kama sera badala ya tukio.

• Data ya mafunzo: modeli iliyofunzwa kuhusu maamuzi ya zamani huzalisha mifumo iliyo ndani yake.
• Vigezo: kipengele kisicho na upendeleo kama vile msimbo wa posta kinaweza kuwakilisha ukabila na kusababisha ubaguzi usio wa moja kwa moja.
• Matumizi ya matokeo: alama inayokubalika kama ushauri inaweza kuwa kinyume cha sheria kama msingi pekee wa kukataa ombi.
• Ukosefu wa ufuatiliaji: modeli ambayo ilikuwa na usawa wakati wa uzinduzi wa data inapobadilika.

Ubaguzi wa moja kwa moja hutumia msingi uliolindwa waziwazi. Ubaguzi usio wa moja kwa moja, ambapo kigezo kisichoegemea upande wowote kinaathiri kundi lililolindwa, unaweza kuhalalishwa tu ikiwa lengo ni halali na njia zinafaa na muhimu, na shirika lazima liweze kuthibitisha hilo.

Ni lini shirika linawajibika chini ya sheria ya Uholanzi?

Miili miwili ya sheria ya Uholanzi hufanya kazi nyingi. Sheria ya makosa ya jinai inauliza kama shirika lilifanya uzembe na kusababisha hasara; sheria ya usawa inauliza kama matokeo yalikuwa tofauti iliyokatazwa.

Kosa: utekelezaji wa uzembe

Chini ya Kifungu cha 6:162 BW, mhusika anawajibika kwa kitendo kisicho halali (onrechtmatige daad) kinachotokana nacho kinachosababisha uharibifu. Kutumia mfumo ambao haujajaribiwa, kuthibitishwa au kufuatiliwa kunaweza kuwa mwenendo wa uzembe. Mdai lazima athibitishe kitendo kisicho halali, maelezo, uharibifu na kiungo cha sababu.

Kununua mfumo kutoka kwa muuzaji hakuondolei shirika linalotuma maombi wajibu huu. Huenda ukawa na dai tofauti dhidi ya muuzaji kwa kutofanya kazi (Kifungu cha 6:74 BW), lakini hilo haliathiri dai la mwombaji aliyekataliwa.

Sheria ya usawa wa matibabu na mzigo wa ushahidi

Sheria ya Jumla ya Usawa wa Kisheria (Algemene wet gelijke behandeling, AWGB), sheria ya ubaguzi wa umri (WGBL) na sheria ya ulemavu na ugonjwa sugu (WGBH/CZ) inakataza ubaguzi wa moja kwa moja na usio wa moja kwa moja kwa misingi ya ulinzi; katika ajira, Kifungu cha 7:646 BW kinaongeza sheria kuhusu jinsia. Mara tu mdai atakapotoa ukweli unaopendekeza ubaguzi, shirika lazima lithibitishe kwamba halikubagua.

Shirika ambalo haliwezi kuonyesha kile ambacho mfumo wake ulipima, data gani na upimaji gani, haliwezi kukidhi mzigo huo. Malalamiko yanaweza pia kwenda kwa Taasisi ya Haki za Binadamu ya Uholanzi (College voor de Rechten van de Mens), ambayo maoni yake hayana nguvu lakini mara nyingi hutumika kama ushahidi katika kesi za baadaye mahakamani.

Je, GDPR inahitaji nini kwa maamuzi ya kiotomatiki?

Kifungu cha 22 cha GDPR kinampa mtu haki ya kutokukabiliwa na uamuzi unaotegemea usindikaji otomatiki pekee ambao una athari kubwa za kisheria au sawa. Maamuzi ya kuajiri, mikopo na faida kwa kawaida yanastahiki.

Ushiriki wa binadamu hufanya uamuzi nje ya Kifungu cha 22 tu ikiwa una maana: mtu mwenye mamlaka na taarifa ya kuamua tofauti, si mtu anayethibitisha kile skrini inaonyesha. Kanuni ya haki katika Kifungu cha 5(1)(a) inatumika kwa vyovyote vile, na Kifungu cha 35 kinahitaji tathmini ya athari ya ulinzi wa data kabla ya usindikaji wa hatari kubwa kama vile uundaji wa wasifu wa kimfumo. Chini ya Kifungu cha 83(5) GDPR, faini zinaweza kufikia €20 milioni au 4% ya mauzo ya kila mwaka duniani kote, yoyote iliyo juu zaidi. Tazama muhtasari wetu wa faragha ya data, GDPR, AI na data kubwa.

Sheria ya AI inahitaji nini sasa, na nini huanza baadaye?

Sheria ya AI, Kanuni (EU) 2024/1689, ilianza kutumika tarehe 1 Agosti 2024 na inatumika kwa hatua. Vitendo vilivyopigwa marufuku katika Kifungu cha 5 vinatumika tangu tarehe 2 Februari 2025; majukumu yenye hatari kubwa kwa mifumo ya kuajiri, mikopo na bima yanatumika kuanzia tarehe 2 Desemba 2027.

Majukumu ya mifumo ya AI ya matumizi ya jumla na vifungu vya adhabu vinatumika tangu 2 Agosti 2025. Omnibus ya Kidijitali kuhusu AI, Kanuni (EU) 2026/1744 iliyoanza kutumika tangu 27 Julai 2026, iliahirisha utaratibu wa hatari kubwa: mifumo iliyoorodheshwa katika Kiambatisho cha III, kama vile ile inayotumika kwa ajili ya kuajiri, kupandishwa cheo na kufutwa kazi, ustahili wa mikopo na tathmini ya hatari ya bima, inafuata tarehe 2 Desemba 2027, na mifumo ya hatari kubwa katika bidhaa zinazodhibitiwa (Kiambatisho cha I) tarehe 2 Agosti 2028. Omnibus pia ilipunguza wajibu wa kusoma na kuandika AI katika Kifungu cha 4 na kuwa wajibu wa kusaidia kusoma na kuandika AI miongoni mwa wafanyakazi.

Mara tu utaratibu wa hatari kubwa unapotumika, unahitaji data ya mafunzo inayowakilishwa na kukaguliwa, nyaraka za kiufundi, kumbukumbu, uwazi, usimamizi wa binadamu na tathmini ya uzingatiaji. Wasambazaji wana majukumu yao wenyewe, kama vile kuweka kumbukumbu na kuwapa usimamizi wafanyakazi wenye uwezo. Faini zinafikia €35 milioni au 7% ya mauzo duniani kote kwa vitendo vilivyokatazwa na €15 milioni au 3% kwa uvunjaji wa majukumu ya hatari kubwa. Maelekezo yaliyopendekezwa ya Dhima ya AI yameondolewa, kwa hivyo dai la uharibifu nchini Uholanzi linabaki kuwa dai chini ya sheria ya Uholanzi. Zaidi kuhusu hili katika mwongozo wetu wa upande wa kisheria wa akili bandia na Sheria ya AI ya EU.

Mahakama na wasimamizi wa Uholanzi wameamua nini?

Mnamo tarehe 5 Februari 2020, Mahakama ya Wilaya ya The Hague iliamua kwamba sheria iliyo nyuma ya SyRI, mfumo wa serikali wa hatari ya ulaghai, ilikiuka Kifungu cha 8 cha Mkataba wa Ulaya kuhusu Haki za Binadamu kwa sababu haikuwa wazi na isiyoweza kuthibitishwa vya kutosha (ECLI:NL:RBDHA:2020:865). Mfumo wa hatari wala viashiria havikufichuliwa, kwa hivyo hakuna mtu aliyeweza kuangalia athari za kibaguzi.

Katika kashfa ya marupurupu ya utunzaji wa watoto (toeslagenaffaire), utawala wa kodi ulitumia uteuzi wa hatari ambapo utaifa pacha ulihesabiwa kama kiashiria cha ulaghai. Mamlaka ya Ulinzi wa Data ya Uholanzi iliona usindikaji huu kuwa kinyume cha sheria na ubaguzi na ikatoza faini utawala wa kodi. Somo kwa mashirika binafsi: mfumo ambao hakuna mtu anayeweza kuelezea hauwezi kutetewa, na kuchagua kuuendesha ndio kitendo kinachohukumiwa.

Nani anawajibika: muuzaji au mtumiaji?

Mtu huyo alidhuru madai dhidi ya shirika lililochukua uamuzi huo, ambalo karibu kila mara ndilo linalotekeleza uamuzi huo. Chini ya Sheria ya AI, mtoa huduma na mtekelezaji kila mmoja ana majukumu yake.

Mkataba na muuzaji unaweza kutenga matokeo ya kifedha na kupata taarifa unayohitaji ili kutetea dai, lakini hauwezi kuondoa faini ya kisheria au wajibu wa kisheria. Makala yetu kuhusu nani anayewajibika kwa makosa yaliyofanywa na akili bandia yanajadili mgao huo.

Unapaswa kuangalia nini kama shirika kwa kutumia akili bandia (AI)?

• Je, umejaribu viwango vya matokeo katika vikundi vilivyolindwa kabla ya kupelekwa na kuangalia vigezo vya proksi?
• Je, unaendelea kupima baada ya kuanza kutumika, na una mtu aliyetajwa jina mwenye mamlaka ya kusimamisha mfumo?
• Je, mapitio ya kibinadamu yana maana pale ambapo Kifungu cha 22 cha GDPR kinatumika, na je, tathmini ya athari ilifanyika kabla ya kuanza kutumika?
• Je, baraza la kazi lina haki ya ridhaa chini ya Kifungu cha 27 cha Sheria ya Mabaraza ya Kazi (WOR), kwa mfano kwa mifumo inayofuatilia wafanyakazi?
• Je, mkataba wa msambazaji unakupa ufikiaji wa nyaraka, matokeo ya majaribio na kumbukumbu, na ukaguzi sivyo?
• Je, unaweza kuelezea kila uamuzi kwa mtu aliyeathiriwa kwa lugha rahisi?

Unapaswa kuangalia nini kama mwombaji au mfanyakazi aliyeathiriwa na uamuzi?

• Je, uamuzi ulichukuliwa bila ushirikishwaji wa kibinadamu wenye maana? Kisha unaweza kutumia Kifungu cha 22 cha GDPR.
• Je, umeomba ufikiaji wa data yako na maelezo ya mantiki inayohusika (Kifungu cha 15 cha GDPR)?
• Je, kuna ukweli unaoonyesha kwamba msingi uliolindwa au mwakilishi ulichangia? Mzigo wa ushahidi kisha hubadilika.
• Je, maoni (oordeel) kutoka Taasisi ya Haki za Binadamu ya Uholanzi yanatosha, au unahitaji dai la fidia mahakamani?

Tunaweza kukufanyia nini kwa dhima ya upendeleo wa kialgoriti?

Wanasheria wetu wa TEHAMA wanashauri makampuni upande wa kisheria wa kufanya maamuzi kiotomatiki.

• Tunatathmini mfiduo wako chini ya sheria ya makosa ya jinai ya Uholanzi, sheria ya usawa wa matibabu na GDPR kwa mfumo maalum.
• Tunakagua tathmini yako ya athari na mchakato wa usimamizi wa binadamu kwa Kifungu cha 22 GDPR.
• Tunatayarisha kufuata Sheria yako ya AI kwa mifumo ya kuajiri, mikopo na bima yenye hatari kubwa.
• Tunajadili mikataba ya wasambazaji kuhusu nyaraka, haki za ukaguzi na dhima.
• Tunashughulikia malalamiko, taratibu za Taasisi, madai na uchunguzi wa kisheria.

Muhtasari

• Shirika linalopeleka watu madarakani linawajibika kwa matokeo ya kibaguzi, hata kwa mfumo ulioidhinishwa.
• Mara tu ukweli unapoonyesha ubaguzi, shirika lazima lithibitishe kuwa halikubagua.
• Kifungu cha 22 cha GDPR kinazuia maamuzi ya kiotomatiki pekee; mapitio ya kibinadamu lazima yawe halisi.
• Sheria ya AI inatoza ushuru hatarishi kwa ajili ya kuajiri, mikopo na bima kuanzia tarehe 2 Desemba 2027.
• Nyaraka za majaribio na ufuatiliaji ndio msingi wa utetezi wowote.

Maswali yanayoulizwa mara kwa mara