AI na sheria ya jinai: algorithm inaweza kuwajibika kwa sehemu?

Tuwe wazi tangu mwanzo: chini ya sheria ya sasa ya Uholanzi na EU, algoriti haiwezi kupatikana kama inawajibika kihalifu kwa uhalifu. Sio mwanzo. Dhana kuu za kisheria kama vile dhamira ya jinai ( mens rea ) na utu wa kisheria zimehifadhiwa kwa ajili ya wanadamu na, katika hali fulani, mashirika.

Hata hivyo, jibu hilo rahisi ni mwanzo tu wa mazungumzo magumu zaidi. Vitendo vya algoriti vinakuwa muhimu kabisa katika kuthibitisha hatia-au kutokuwa na hatia-ya watu wanaounda, kupeleka na kusimamia.

Je! Algorithm Inaweza Kuwa na Hatia ya Uhalifu?

Tunapozungumzia AI katika muktadha wa sheria ya jinai , swali halisi ni kama algoriti inaweza kuishia katika kiti cha mshtakiwa. Kisheria, jibu la leo ni hapana thabiti. Haijalishi ni ya kisasa kiasi gani, algoriti haina sifa za msingi zinazohitajika ili kushtakiwa. Haina ufahamu, haina mali binafsi ya kukamata, na haina uhuru wa kuchukua.

Ukweli huu wa kisheria hulazimisha uangalizi kuhama kutoka kwa zana hadi kwa mtumiaji. Inasaidia kufikiria mfumo wa hali ya juu wa AI kama kifaa changamano lakini kisicho na uhai—si tofauti na gari linalojiendesha au mashine ya kiwandani inayojiendesha. Iwapo mashine italeta madhara, sheria haifungui mashine hiyo mashtaka; inachunguza wanadamu nyuma yake.

Vikwazo vya Mtu wa Kisheria na Nia

Sheria ya jinai imejengwa juu ya nguzo mbili ambazo AI haiwezi kukidhi: utu wa kisheria na nia ya uhalifu. Ili chombo chochote kikabiliane na mashtaka, sheria lazima itambue kama "mtu," ambayo ina maana ya mtu wa kawaida (binadamu) au mtu wa kisheria (kama kampuni). Mifumo ya AI haifai katika aina zote mbili.

Hata zaidi, uhalifu mkubwa zaidi unahitaji uthibitisho wa ukweli wa wanaume — "akili yenye hatia." Hii inahusu kuthibitisha kwamba mshtakiwa alitenda kwa hali maalum ya kiakili, iwe ilikuwa nia, maarifa, au uzembe. Algoritimu inaendeshwa kwa msimbo na data; haitoi nia au kuelewa ubaya wa maadili wa matendo yake.

Ugumu wa kati unatokana na uwezo wa mfumo wa kuchagua na kutenda kwa kujitegemea, na hivyo kuingiza wakala ambaye si binadamu kati ya nia ya binadamu na madhara yanayotokana. Hii inatatiza mtindo wa kawaida wa kuhusisha uwajibikaji katika sheria ya jinai.

Ili kupata uhakika, sheria inakabiliwa na vikwazo fulani katika kutumia kanuni za kisheria za karne nyingi kwa teknolojia inayojitegemea. Jedwali hapa chini linatoa muhtasari wa shida kuu.

Hali ya Sasa ya Dhima ya Jinai ya Algorithmic

Kama unaweza kuona, kuna kutolingana kwa msingi. Muundo mzima wa sheria ya makosa ya jinai umejengwa karibu na wakala wa kibinadamu, ambao AI inakosa.

Dhima Inayohusishwa kama Mfumo wa Kisheria

Kwa hivyo, kwa sababu algoriti haiwezi kupatikana na hatia, sheria ya Uholanzi inarudi nyuma kwenye dhana ya dhima inayohusishwa . Hii ina maana tu kwamba jukumu la vitendo vya AI hupewa—au kuhusishwa—na mwanadamu au mtendaji wa shirika. Katika hali hii, matokeo ya AI yanakuwa ushahidi muhimu unaoelekeza kwenye vitendo au uzembe wa wadhibiti wake wa kibinadamu.

Mbinu hii sio ya mapinduzi. Inaakisi moja kwa moja jinsi sheria inavyoshughulikia uhalifu unaotendwa kwa kutumia zana zingine tata. Kwa mfano, ikiwa kampuni inauza kwa makusudi bidhaa yenye kasoro hatari inayosababisha majeraha, kampuni na wasimamizi wake watawajibika, si bidhaa yenyewe.

Kanuni zinazoongoza hili zinaendana na mafundisho ya kisheria yaliyoanzishwa. Kwa wataalamu wa sheria wanaopitia nafasi hii, ufahamu mzuri wa mifumo iliyopo ndio msingi muhimu. Mwongozo wetu wa kina kuhusu utaratibu wa jinai nchini Uholanzi unatoa mwongozo mzuri wa jinsi kesi hizi zinavyobadilika kutoka uchunguzi hadi uamuzi. Changamoto sasa si kubuni sheria mpya kuanzia mwanzo, bali kurekebisha kanuni hizi zilizothibitishwa na ugumu wa kipekee wa mifumo inayojitegemea.

Jinsi Sheria ya Uholanzi Inavyotoa Lawama kwa Uhalifu Unaowezeshwa na AI

Kwa kuwa algoriti yenyewe haiwezi kushtakiwa, mfumo wa kisheria wa Uholanzi hugeukia mafundisho yaliyopo, yanayolenga wanadamu ili kugawa jukumu pale inapostahili. Zana kuu ya kisheria kwa kazi hii ni mafundisho ya utendaji kazi ( functioneel daderschap ).

Kanuni hii yenye nguvu inaruhusu mahakama kumwajibisha mtu au kampuni kwa jinai kwa kitendo ambacho haikutekeleza kimwili, mradi tu walikuwa wanadhibiti hali ipasavyo.

Ifikirie hivi: mkurugenzi wa kampuni ya ujenzi haendeshi kibinafsi kila korongo kwenye tovuti. Lakini ikiwa kwa kujua wanaamuru opereta kutumia crane mbovu na ajali ikitokea, mkurugenzi yuko kwenye ndoano. Mantiki sawa inatumika wakati "crane" ni mfumo wa AI wa kisasa. Mtazamo hubadilika kutoka kwa kile algoriti ilifanya hadi maamuzi ya kibinadamu ambayo yaliruhusu kutokea.

Hili ni wazo muhimu kwa mtu yeyote anayefanya kazi na AI, kwani huwapa waendesha mashtaka njia ya moja kwa moja ya kuunganisha matokeo hatari ya AI na mtu au shirika. Inaondoa kwa uwazi kazi isiyowezekana ya kuthibitisha "nia" ya algoriti na badala yake inasisitiza dhamira na uzembe wa mabwana wake wa kibinadamu.

Vipimo viwili vya Utendaji wa Utendaji

Ili mwendesha mashtaka aweze kubishana kwa mafanikio na utendakazi mahakamani, inabidi kukidhi vipimo viwili muhimu. Vigezo hivi ni nguzo zinazoamua ikiwa mtu au kampuni inaweza kuonekana kama mwandishi "mtendaji" wa uhalifu uliofanywa kupitia AI.

1. Nguvu ya Udhibiti ( Beschikkingsmacht ) : Je, mtu binafsi au kampuni ilikuwa na mamlaka halisi ya kubaini kama tabia ya uhalifu ya AI ingefanyika? Haya yote yanahusu mamlaka na usimamizi—mambo kama vile kuweka sheria za uendeshaji za AI, kuwa na uwezo wa kuizima, au kufafanua vigezo vinavyoongoza maamuzi yake.

2. Kukubali ( Aanvaarding ) : Je, mtu binafsi au kampuni ilikubali hatari kwamba kitendo cha jinai kinaweza kutokea? Muhimu zaidi, hii haihitaji nia ya moja kwa moja. Inaweza kuthibitishwa ikiwa wangejua kuna uwezekano wa matokeo mabaya lakini kwa makusudi wakachagua kutoweka ulinzi wa kutosha.

Nguzo hizi mbili—udhibiti na kukubalika—ndio msingi wa jinsi sheria ya Uholanzi inavyojibu swali, "Je, algoriti inaweza kuwajibika kwa kiasi fulani?". Jibu ni hapana wazi, lakini mtawala wake wa kibinadamu anaweza kuwajibika kikamilifu.

Hali ya Kiutendaji: Jeraha la Kujiendesha la Drone

Hebu tutumie hili kwa hali halisi ya ulimwengu. Hebu fikiria kampuni ya vifaa inapeleka kundi la ndege zisizo na rubani zinazojiendesha. Ndege moja isiyo na rubani, inayoongozwa na mfumo wa urambazaji wa AI, haifanyi kazi vizuri kwenye uwanja wa umma uliosongamana na kusababisha jeraha kubwa.

Mwendesha mashtaka anayeunda kesi dhidi ya kampuni ataegemea sana mfumo wa utendaji kazi:

• Kuthibitisha Udhibiti : Wangeonyesha kwamba kampuni ilikuwa na mamlaka kamili juu ya kundi la ndege zisizo na rubani. Kampuni iliweka njia za uwasilishaji, ilisimamia masasisho ya programu, na kushikilia "kifaa cha kuua" ili kuzuia ndege zisizo na rubani wakati wowote.

• Kuthibitisha Kukubalika : Huenda ushahidi ukaonekana kuonyesha kwamba kampuni ilikuwa inajua AI yake ilikuwa na kiwango cha hitilafu cha 5% katika maeneo yenye watu wengi mijini lakini iliamua kuipeleka hata hivyo ili kupunguza gharama. Kwa kuendesha mfumo licha ya hatari hii inayojulikana, kampuni ilikubali kwa ufanisi uwezekano wa matokeo mabaya.

Chini ya fundisho hili, kampuni inakuwa mhusika wa uhalifu (kwa mfano, madhara makubwa ya mwili kwa uzembe). AI ni chombo tu; maamuzi ya kampuni kupeleka na kutoisimamia ipasavyo hujumuisha kitendo cha jinai.

Dhima ya Kampuni na Uzembe Mkubwa

Dhana hii ya utendakazi inaenea moja kwa moja kwa dhima ya jinai ya kampuni. Shirika linaweza kuwajibika ikiwa mwenendo wa uhalifu unaweza kuhusishwa na hilo. Hii mara nyingi hujitokeza katika kesi za uzembe mkubwa, ambapo sera za kampuni-au ukosefu wake-ziliunda mazingira ambapo uhalifu unaoendeshwa na AI haukuwezekana tu, lakini unaonekana.

Ingawa kanuni za kisheria zimethibitishwa vyema, matumizi yake kwa AI bado yanaendelea. Nchini Uholanzi, kufikia mwaka wa 2025, hakuna hukumu za mahakama zilizochapishwa haswa kuhusu dhima ya jinai kwa madhara yanayosababishwa na uamuzi huru wa mfumo wa AI pekee . Hii inaonyesha kwamba uwanja wa kisheria bado unacheza na teknolojia.

Kwa sasa, waendesha mashtaka hurekebisha mafundisho haya ya jumla, wakiwawajibisha watu binafsi ikiwa walidhibiti AI na kukubali uwezekano wake wa vitendo visivyofaa, kama vile katika visa vya mauaji ya uzembe yanayotokana na operesheni ya AI isiyojali. Unaweza kusoma zaidi kuhusu hali ya sasa ya AI katika sheria ya Uholanzi na athari zake.

Kwa wakili wa kisheria, ukweli huu unaweka mkazo katika jambo moja: kuonyesha uangalizi wa kibinadamu unaowajibika na mbinu makini ya udhibiti wa hatari. Kuthibitisha ukosefu wa udhibiti au kubishana kwamba matokeo mabaya hayakutarajiwa kwa kweli itakuwa msingi wa kutetea dhidi ya mashtaka kama hayo.

Athari za Sheria ya EU AI kwa Dhima ya Jinai

Ingawa sheria za ndani za Uholanzi kama vile functioneel daderschap hutoa mfumo wa kuashiria lawama, mazingira yanabadilishwa sana na mpango mpana zaidi: Sheria ya Akili Bandia ya Umoja wa Ulaya . Huu si tu sehemu nyingine ya kanuni; ni mfumo kamili unaotegemea hatari ulioundwa ili kudhibiti jinsi mifumo ya AI inavyotengenezwa na kusambazwa katika soko moja.

Kwa wataalamu wa sheria na biashara, kupata kufahamu Sheria ya AI ni muhimu kwa sababu inaunda majukumu mapya ya kufuata ambayo yana uhusiano wa moja kwa moja na dhima ya uhalifu. Kushindwa kuzingatia matakwa yake madhubuti kunaweza kutumiwa na waendesha mashtaka kama ushahidi thabiti wa uzembe au uzembe, na kutengeneza msingi wa mashtaka ya jinai mfumo wa AI unaposababisha madhara. Sheria hii hubadilisha mazungumzo kutoka kwa kujibu tu madhara hadi kuyazuia kwa vitendo.

Sheria ya AI inaweka safu ya wazi, ikiainisha mifumo ya AI kulingana na uwezo wake wa kudhuru usalama au haki za kimsingi. Muundo huu ndio ufunguo wa kuelewa uhusiano wake na sheria ya jinai.

Kuelewa Vitengo vya Hatari

Athari kubwa zaidi ya Sheria inatokana na mbinu yake ya viwango. Haichukulii AI zote sawa. Badala yake, inapanga mifumo katika kategoria, kila moja ikiwa na majukumu tofauti ya kisheria.

• Hatari Isiyokubalika : Hizi ni mifumo inayochukuliwa kuwa tishio kwa haki za msingi kiasi kwamba imepigwa marufuku kabisa. Fikiria mifumo ya upimaji wa kijamii inayoendeshwa na serikali au utambuzi wa kibiometriki wa wakati halisi katika maeneo ya umma na vyombo vya sheria (isipokuwa kwa ubaguzi mdogo).

• Hatari Kubwa : Hili ndilo kundi muhimu zaidi kwa sheria ya jinai. Linashughulikia AI inayotumika katika maeneo nyeti kama vile miundombinu muhimu, vifaa vya matibabu, na, muhimu zaidi, utekelezaji wa sheria na usimamizi wa haki. Zana za utabiri wa polisi na programu ya hukumu inayoendeshwa na AI zinaangukia moja kwa moja katika kundi hili.

• Hatari Ndogo : Mifumo hii, kama vile chatbots, inakabiliwa na majukumu mepesi ya uwazi. Watumiaji lazima wafahamishwe tu kwamba wanaingiliana na AI.

• Hatari Ndogo : Kikundi hiki kinajumuisha programu nyingi za akili bandia, kama vile vichujio vya barua taka au akili bandia katika michezo ya video, ambazo kwa kiasi kikubwa hazijadhibitiwa.

Kutuma mfumo katika kitengo cha "hatari isiyokubalika" ni ukiukaji wa moja kwa moja ambao unaweza kusaidia kwa urahisi kesi ya uzembe wa jinai ikiwa itasababisha madhara. Uwanja wa vita kuu vya kisheria, hata hivyo, utakuwa karibu na mifumo ya hatari kubwa.

Mifumo ya Hatari kubwa na Uzembe wa Jinai

Kwa AI iliyo hatarini zaidi, Sheria inaweka masharti magumu ambayo yanafanya kazi kama kiwango cha kisheria cha utunzaji. Wajibu huu sio mapendekezo; ni majukumu ya lazima kwa watengenezaji na wapelekaji.

Mahitaji muhimu kwa mifumo hatarishi ni pamoja na usimamizi thabiti wa data ili kuzuia upendeleo, uwekaji nyaraka kamili wa kiufundi, uwazi kamili kwa watumiaji, kuhakikisha uangalizi wa kibinadamu unawezekana wakati wote, na kudumisha viwango vya juu vya usahihi na usalama wa mtandao.

Hebu fikiria kampuni ikitumia kanuni ya ubashiri ya upolisi bila kukagua ipasavyo data ya mafunzo kwa upendeleo wa rangi—ukiukaji wa wazi wa sheria za usimamizi wa data za Sheria. Ikiwa mfumo huu wa upendeleo husababisha kukamatwa kwa makosa ambayo husababisha madhara, mwendesha mashtaka ana hoja tayari. Wanaweza kuashiria kutofuata Sheria ya AI kama ushahidi wa moja kwa moja wa kushindwa kwa kampuni kuchukua uangalifu unaofaa, na kufanya malipo ya uzembe wa shirika kuwa rahisi zaidi kudhibitisha.

Sheria ya Ujasusi Bandia ya EU, ambayo ilianza kutumika nchini Uholanzi mnamo Februari 2025, kimsingi inaunda mazingira haya ya kisheria. Kutofuata sheria kunaweza kusababisha faini kubwa za kiutawala za hadi €35 milioni au 7% ya jumla ya mauzo ya kila mwaka . Serikali ya Uholanzi imeamuru mashirika kutambua na kuondoa mifumo yoyote iliyopigwa marufuku, ikionyesha wasiwasi mkubwa kuhusu AI yenye dosari inayoonekana katika kukamatwa kimakosa kutokana na makosa ya utambuzi wa uso. Huku wasomi wa sheria wakitetea haki kubwa kwa washtakiwa kupinga ushahidi wa AI, Sheria hiyo inafungua njia ya uchunguzi mkali zaidi wa kimahakama. Kwa maelezo zaidi kuhusu sheria hizi mpya, unaweza kuchunguza marufuku ya Sheria ya AI iliyoanza kutumika.

Masomo kutoka kwa Kashfa ya Mafao ya Malezi ya Mtoto ya Uholanzi

Ingawa nadharia za kisheria zinatupa mfumo, hakuna kinachoonyesha hali halisi ya kushindwa kwa algoriti kama vile kashfa ya manufaa ya utunzaji wa watoto ya Uholanzi, au toeslagenaffaire . Mgogoro huu wa kitaifa ni utafiti wa kesi ya kutisha wa dhuluma ya kimfumo, unaoendeshwa sio na mtendaji mmoja hasidi, bali na mfumo usio na uwazi, otomatiki ambao umetoka nje ya udhibiti kabisa.

Kashfa hiyo inafichua gharama mbaya ya kibinadamu wakati uwajibikaji unapopotea ndani ya kanuni ya "sanduku nyeusi". Kwa wataalamu wa sheria, ni somo muhimu katika jinsi mifumo ya kiotomatiki, hata ikiwa yenyewe haijashtakiwa kwa njia ya jinai, inaweza kusababisha madhara makubwa na kuvunja imani ya umma kwa taasisi zetu.

Jinsi Algorithm Ilivyowashtaki Maelfu kwa Uongo

Kiini chake, kashfa ilihusu kanuni ya kujifunzia inayotumiwa na Utawala wa Ushuru na Forodha wa Uholanzi. Kazi yake ilikuwa kugundua ulaghai unaowezekana katika madai ya manufaa ya malezi ya watoto. Ingawa lengo lilikuwa nzuri, mantiki ya ndani ya mfumo ilikuwa na dosari kubwa na, hatimaye, ya ubaguzi.

Algorithm ilianza kuwataja vibaya maelfu ya familia kama wadanganyifu kulingana na vigezo ambavyo havingepaswa kuwa na madhara. Upotoshaji mdogo wa kiutawala, kama sahihi iliyokosekana, ulitosha kusababisha uchunguzi kamili wa ulaghai. Matokeo yalikuwa mabaya sana kwa zaidi ya familia 26,000 , ambazo ziliamriwa kulipa makumi ya maelfu ya euro, na kuwasukuma wengi katika hasara ya kifedha.

Hali hii inaonyesha jinsi AI inavyoweza kuongeza dhuluma kwa nguvu. Mifumo ya kibaguzi katika algoriti za mamlaka ya kodi ililenga makundi maalum isivyo haki, na kusababisha uharibifu mkubwa wa kifedha na kijamii. Kujibu kilio cha kitaifa, serikali ya Uholanzi ilichapisha 'Kitabu cha Kutobagua kwa Ubunifu' mnamo 2021 ili kuzuia kwa vitendo upendeleo kama huo katika mifumo ya AI ya siku zijazo. Unaweza kugundua maarifa zaidi kuhusu jinsi sheria ya Uholanzi inavyobadilika kulingana na AI kwenye globallegalinsights.com.

Mapungufu Muhimu katika Uwazi na Uwajibikaji

Msimamizi huyo wa masuala ya sheria alifungua mapengo kadhaa muhimu katika usimamizi wa kisheria na kimaadili wa kufanya maamuzi kiotomatiki. Kushindwa huku ni muhimu katika kuelewa wakati matokeo ya algoriti yanaweza kuibua maswali ya uwajibikaji wa jinai kwa waendeshaji wake wa kibinadamu.

Makosa matatu kuu yalijitokeza:

• Ukosefu wa Uwazi : Familia zilizoathiriwa hazikupewa sababu dhahiri kwa nini ziliwekwa alama. Mfumo huo ulikuwa kisanduku cheusi, na kuwafanya wasiweze kupinga hitimisho lake.

• Kutokuwepo kwa Usimamizi wa Kibinadamu : Maamuzi ya algoriti mara nyingi yalichukuliwa kama injili. Kulikuwa na kushindwa kwa kimfumo kwa maafisa wa kibinadamu kuhoji au kupuuza uainishaji wa ulaghai kiotomatiki.

• Dhana ya Hatia : Mara tu mfumo ulipowapa familia alama, walidhaniwa kuwa na hatia. Hii ilibadilisha mzigo wa ushahidi, na kuwalazimisha kuingia katika vita isiyowezekana ili kuthibitisha kutokuwa na hatia kwao dhidi ya mshtaki asiyeonekana.

Kashfa hiyo ilikuwa ukumbusho kamili kwamba wakati mfumo wa kiotomatiki unapofanya uamuzi wa kubadilisha maisha, "haki ya maelezo" sio anasa - ni sehemu ya msingi ya haki. Bila hivyo, hakuwezi kuwa na rufaa ya maana.

Kwa yeyote anayekabiliwa na shutuma kama hizo, kuelewa mfumo wa kisheria ni muhimu sana. Mbinu ya Uholanzi kuhusu ulaghai ni ngumu, na kashfa hiyo inasisitiza hitaji la mwongozo wa kitaalamu. Jifunze zaidi kuhusu mbinu ya kisheria ya Uholanzi kuhusu ulaghai na uhalifu wa kifedha katika makala yetu.

Baadaye: Msukumo wa Udhibiti

Ingawa hakuna algoriti iliyowasilishwa mahakamani, matokeo ya kibinadamu na kisiasa yalikuwa makubwa. Ilisababisha kujiuzulu kwa serikali nzima ya Uholanzi mnamo 2021. Kashfa hiyo ikawa kichocheo kikubwa cha mabadiliko, ikiathiri moja kwa moja maendeleo ya miongozo kali ya kutumia akili bandia katika utawala wa umma.

Ilithibitisha kwamba hata bila mashtaka ya jinai dhidi ya kanuni yenyewe, kupeleka bila kujali mfumo mbovu na wenye upendeleo kunaweza kuwa na matokeo sawia na uzembe ulioenea wa kitaasisi. Hadithi hii ya tahadhari sasa inaarifu majadiliano ya udhibiti kote Ulaya, ikiwa ni pamoja na Sheria ya AI ya Umoja wa Ulaya, kuhakikisha kwamba uwazi, haki, na uangalizi wa kibinadamu uko mstari wa mbele katika uwekaji wowote wa AI wa siku zijazo.

Mikakati ya Ulinzi Wakati AI Inahusika

Wakati mteja anakabiliwa na mashtaka ya jinai kwa sababu ya jambo ambalo mfumo wa AI ulifanya, washauri wao wa kisheria huingia katika ulimwengu mpya wenye changamoto. Kitabu cha kawaida cha kucheza cha kisheria kinahitaji kufikiriwa upya kwa kina. Utetezi thabiti unapaswa kulenga kutenganisha kesi ya mwendesha mashtaka kwa nia ya kibinadamu au uzembe, na hiyo mara nyingi inamaanisha kutozingatia uhuru wa algoriti yenyewe na wakati mwingine hali isiyotabirika.

Kikwazo kikubwa kwa mwendesha mashtaka yeyote ni kuthibitisha kwamba mwanadamu alikuwa na nia maalum ya jinai ( mens rea ) wakati chanzo cha moja kwa moja cha madhara kilikuwa algoriti tata. Hapa ndipo hasa ambapo utetezi una nafasi nzuri zaidi. Lengo ni kuunda shaka inayofaa kwa kuonyesha kwamba mwanadamu hakuwa na udhibiti au utabiri wa mbele wa kuwajibika kihalifu kwa uamuzi huru wa AI.

Kusudi la Changamoto na Ulinzi wa Sanduku Nyeusi

Mojawapo ya hoja zenye nguvu zaidi zinazopatikana ni utetezi wa "kisanduku cheusi" . Mkakati huu unatokana na ukweli kwamba mifumo mingi ya hali ya juu ya AI, haswa ile iliyojengwa kwenye ujifunzaji wa kina au mitandao ya neva, kwa asili haina uwazi. Hoja hiyo ni rahisi: ikiwa watu waliounda mfumo hawawezi kuelezea kikamilifu jinsi ulivyofikia hitimisho fulani, mtumiaji anawezaje kutarajiwa kutabiri na kunuia matokeo ya uhalifu?

Utetezi huu huenda moja kwa moja kwenye kiini cha hitaji la nia. Wakili anaweza kusema kwamba hatua ya AI yenye madhara ilikuwa tabia isiyoweza kutabirika, ibuka—aina ya fujo za kidijitali, si kitendo cha uhalifu kilichopangwa. Kadiri AI inavyokuwa ngumu zaidi na inayojitegemea, ndivyo hoja hii inavyokuwa ya kulazimisha.

Ili kufanya ulinzi huu ufanye kazi, unahitaji kabisa wataalam wanaofaa kwa upande wako.

• Wataalamu wa Upelelezi wa Kidijitali : Wanaweza kuchunguza msimbo wa AI, kumbukumbu za data, na njia za kufanya maamuzi ili kupata mahali halisi ambapo ilipotoka kutoka kwa tabia yake inayotarajiwa.

• Wataalamu wa Maadili ya AI na Wanasayansi wa Kompyuta : Wataalamu hawa wanaweza kutoa ushahidi kuhusu kutotabirika kwa mifumo fulani ya AI. Wanaweza kuelezea mahakama kwa nini matokeo ya "uongo" yalikuwa hitilafu ya kiufundi, si matokeo ya wosia wa mshtakiwa.

Kwa kutunga tukio kama hitilafu isiyoweza kuonekana, upande wa utetezi unaweza kusema kwamba "akili yenye hatia" muhimu inayohitajika kwa ajili ya hukumu haipo.

Kuthibitisha Ukosefu wa Udhibiti au Ukosefu wa Hatia

Mkakati mwingine mzuri ni kupinga ukosefu wa udhibiti mzuri . Chini ya kanuni ya kisheria ya Uholanzi ya functioneel daderschap (utendaji kazi), dhima inamtaka mshtakiwa awe na mamlaka ya kudhibiti kitendo hicho. Utetezi unaweza kurudisha nyuma hili kwa kuonyesha kwamba, mara tu AI ilipoanza kufanya kazi, ilifanya kazi kwa kiwango cha uhuru ambacho kiliweka vitendo vyake zaidi ya ushawishi wa moja kwa moja wa mshtakiwa.

Hii inaweza kuhusisha kuonyesha kuwa mfumo uliundwa ili kujifunza na kubadilika kwa wakati halisi, kufanya tabia yake kuwa shwari na isiyoweza kutabirika kabisa. Msimamo wa upande wa utetezi unakuwa kwamba mshtakiwa hawezi kuwajibika kwa kitendo ambacho hawezi kuamuru moja kwa moja au kuacha kwa sababu.

Kiini cha utetezi huu ni kuhamisha simulizi kutoka kwa hatia ya mwanadamu hadi moja ya uhuru wa kiteknolojia. Inamuweka upya mshtakiwa si kama mhalifu, lakini kama mwathirika wa mantiki isiyotabirika ya mfumo.

Wakati vitendo vya AI vinaweza kusababisha dhima ya jinai, kuwa na ulinzi thabiti wa mawakala wa AI si tu hatua muhimu ya kuzuia lakini pia ni sehemu muhimu ya ulinzi imara. Kuthibitisha kwamba aina hizi za hatua za usalama za hali ya juu zilitekelezwa kunaweza kuunga mkono kwa nguvu hoja kwamba mshtakiwa hakukubali kwa uzembe hatari ya matokeo mabaya.

Hatimaye, haki ya utetezi wa haki ni muhimu sana, hata katika kesi ambazo ni ngumu kitaalamu. Mshtakiwa ana ulinzi wa msingi, kama vile angefanya katika uhalifu wowote unaomlenga mwanadamu. Ili kuelewa kanuni hizi za msingi katika muktadha mpana, unaweza kujifunza zaidi kuhusu haki ya kukaa kimya katika masuala ya jinai na jinsi inavyotumika ndani ya sheria za Uholanzi.

Mwongozo wa Utekelezaji wa Vitendo kwa Biashara Zinazotumia AI

Kujua nadharia za kisheria ni jambo moja, lakini kwa kweli kujenga mfumo thabiti wa kufuata ni changamoto nyingine kabisa. Kwa biashara zinazotumia AI nchini Uholanzi na kote katika Umoja wa Ulaya, njia bora ya kudhibiti hatari ya dhima ya uhalifu ni kupitia utawala makini na kuweza kuonyesha kuwa umefanya kazi yako ya nyumbani. Mchoro ulio wazi ni muhimu.

Hii haihusu kukandamiza uvumbuzi. Ni kuhusu kuweka ulinzi mahiri ili kulinda kampuni yako, wateja wako na sifa yako. Kwa kuunda mfumo thabiti wa ndani, pia unaunda ulinzi thabiti dhidi ya madai yoyote ya uzembe au uzembe ikiwa mfumo wa AI utawahi kusababisha madhara yasiyotarajiwa.

Kujenga Msingi wako wa Utawala wa AI

Kwanza kabisa: unahitaji muundo ulio wazi wa usimamizi na uwajibikaji. Hili si tatizo la TEHAMA tu; ni jukumu kuu la biashara linalohitaji usaidizi kamili kutoka kwa timu zako za kisheria, uzingatiaji, na watendaji. Kupitisha mbinu bora za utawala bora wa AI ni hatua muhimu ya kudhibiti hatari na kuhakikisha AI yako inatumika kisheria na kimaadili.

Muundo wako wa utawala lazima ujengwe kwenye nguzo chache muhimu:

• Usimamizi wa Kibinadamu : Kwa uamuzi wowote muhimu, mwanadamu lazima awe na uamuzi wa mwisho. Mtu au timu hii inahitaji mamlaka na ujuzi wa kiufundi ili kuingilia kati, kufanya marekebisho, au kubatilisha kabisa mapendekezo ya AI.

• Mistari ya Uwajibikaji Iliyo wazi : Lazima ufafanue haswa ni nani anayehusika na mfumo wa AI katika kila hatua—kuanzia uundaji na upatikanaji wa data hadi upelekaji na ufuatiliaji unaoendelea. Maeneo yoyote yasiyoeleweka hapa huunda hatari kubwa za kisheria.

• Ukaguzi wa Algorithm wa Kawaida : Kama vile unavyokagua fedha za kampuni yako, lazima ukague mifumo yako ya AI mara kwa mara. Ukaguzi huu unapaswa kufanywa na wahusika wengine huru ili kuangalia utendaji, usawa, na kufuata sheria kama vile Sheria ya AI ya EU.

Kusisitiza Ufafanuzi na Uadilifu wa Data

Ikiwa huwezi kueleza jinsi mfumo wako unavyofanya kazi, huwezi kuutetea mahakamani. Tatizo la "black box" ni udhaifu mkubwa wa kisheria, ambao hufanya usanifu wa uwazi kuwa muhimu kabisa.

Ufafanuzi kwa Muundo unapaswa kuwa kanuni isiyoweza kujadiliwa. Timu zako za kiufundi lazima zijenge mifumo ambapo mchakato wa kufanya maamuzi unaweza kuandikwa, kueleweka, na kuelezewa kwa watu wasio wataalamu kama vile majaji na wasimamizi.

Haya yote huanza na data inayotumika kufunza miundo yako. Udhibiti wa data kwa uangalifu ndio ulinzi wako bora dhidi ya upendeleo-chanzo kikuu cha madhara ya algoriti. Hakikisha data yako ni ya ubora wa juu, inafaa, na inawakilisha ipasavyo watu ambayo itaathiri. Andika kila hatua ya jinsi unavyopata, kusafisha na kuchakata data ili kuunda njia ya ukaguzi iliyo wazi. Hati hizi ni ushahidi wa thamani kwamba umefanya bidii.

Orodha ya Hakiki ya Uzingatiaji Sheria ya EU AI

Sheria ya AI ya Umoja wa Ulaya inahusu usimamizi makini wa hatari, hasa kwa mifumo yenye hatari kubwa. Mkakati wako wa kufuata unahitaji kuonyesha dhamira endelevu ya usalama na haki.

Orodha ya vitendo inapaswa kujumuisha:

1. Uainishaji wa Hatari : Ainisha rasmi kila mfumo wa akili bandia unaotumiwa na kampuni yako kulingana na kategoria za hatari za Sheria.

2. Tathmini za Athari : Kabla ya kutumia AI yoyote yenye hatari kubwa, fanya na uandike Tathmini za Athari za Ulinzi wa Data (DPIA) na Tathmini za Athari za Haki za Msingi (FRIAs).

3. Nyaraka za Kiufundi : Weka nyaraka za kiufundi zenye maelezo na za kisasa tayari kutoa kwa wasimamizi wakati wowote wanapoziomba.

4. Ufuatiliaji Endelevu : Weka michakato ya ufuatiliaji wa baada ya soko ili kufuatilia utendaji wa AI na kukamata hatari zozote zisizotarajiwa zinazojitokeza baada ya kuanzishwa kwake.

Maswali yanayoulizwa mara kwa mara kuhusu AI na dhima ya jinai