AI katika mazoezi: Ni nani anayewajibika kwa makosa yaliyofanywa na akili ya bandia?

1. Utangulizi: Dhima ya AI ni nini na kwa nini ni muhimu?

Upelelezi wa bandia unapofanya makosa, wahusika mbalimbali wanaweza kuwajibika: Wasanidi wa AI, watumiaji, watengenezaji au watoa huduma. Katika mwongozo huu, utajifunza ni nani anawajibika lini, sheria zipi zitatumika na jinsi unavyoweza kupunguza hatari za dhima.

Akili Bandia (AI) ina jukumu kubwa katika jamii yetu kuliko hapo awali. Teknolojia hii sio tu inaleta manufaa mengi, lakini pia changamoto za kisheria, hasa katika maeneo ya udhibiti, dhima na kuzingatia maadili. Kutoka kwa uchunguzi wa kimatibabu hadi maamuzi ya kifedha, mifumo ya AI inazidi kuchukua majukumu kutoka kwa wanadamu. Lakini nini kinatokea ikiwa mfumo wa AI husababisha uharibifu? Nani anawajibika kwa matokeo? Mojawapo ya maswala kuu ya matumizi ya AI katika huduma ya afya ni nani anayewajibika kwa makosa yoyote. Maombi ya AI katika huduma ya afya yanaibua maswali ya kisheria kuhusu ni nani anayewajibika kwa utambuzi mbaya au matibabu yasiyo sahihi.

Swali hili linazidi kuwa muhimu kadri AI inavyobadilisha sekta kama vile huduma za afya, usafiri na fedha. Ingawa AI inatoa fursa kubwa, pia inaleta hatari mpya za dhima zinazopinga mfumo wa sasa wa kisheria. Muktadha wa kisheria wa dhima ya AI ni mgumu na unahitaji ufafanuzi wa sheria zilizopo. Umoja wa Ulaya unafanya kazi katika kuoanisha sheria ya dhima kwa teknolojia za AI, huku Bunge la Ulaya likichukua jukumu muhimu kama mwanzilishi wa kanuni mpya.

Katika makala haya, tunajadili hali kamili ya kisheria inayozunguka dhima ya AI, kutoka dhima ya kimkataba hadi dhima ya bidhaa, mifano ya vitendo kutoka kwa sheria ya kesi ya Uholanzi, na hatua madhubuti za kupunguza hatari zako za dhima. Licha ya maendeleo ya haraka, matumizi ya AI katika sekta nyingi bado ni changa, ambayo ina maana kwamba kanuni na utekelezaji wa vitendo bado unaendelea.

2. Kuelewa dhima ya AI: Dhana muhimu na ufafanuzi

2.1 Fasili muhimu

Dhima ya AI ni jukumu la kisheria kwa uharibifu unaosababishwa na matumizi ya mifumo ya AI. Akili bandia inafafanuliwa kisheria kama mifumo inayotafsiri data kiotomatiki, kujifunza kutoka kwa data hiyo na kisha kutekeleza maamuzi au vitendo bila udhibiti wa moja kwa moja wa kibinadamu. Wazo la 'kasoro' kwa bidhaa za AI lazima lijumuishe uwezekano kwamba bidhaa inaweza kushindwa baada ya kuuzwa kutokana na sifa za kujifunzia. Dhima ya bidhaa sasa lazima izingatie uwezo wa kujifunzia wa AI katika tathmini ya kasoro. Maagizo ya sasa ya Dhima ya Bidhaa kutoka 1985 hayatoshi kwa bidhaa za AI.

Visawe na istilahi zinazohusiana:

• Dhima kali: dhima bila uthibitisho wa kosa
• Dhima ya bidhaa: dhima ya wazalishaji kwa bidhaa zenye kasoro
• Dhima ya dhamana: uharibifu unaotokana na uhusiano wa kimkataba
• Dhima ya ubora: dhima kulingana na ubora wa bidhaa au huduma iliyotolewa

Makubaliano ya kimkataba kwa kiasi kikubwa huamua usambazaji wa majukumu na madeni kati ya wahusika. Uwezekano wa kurejesha uharibifu kulingana na dhima ya kimkataba unategemea sana jukumu mahususi la AI.

Ushauri wa kitaalamu: Elewa maana ya AI kisheria kabla ya kuangalia dhima. Mifumo ya AI hutofautiana na programu za kitamaduni katika uwezo wao wa kujifunza na kufanya maamuzi huru.

2.2 Uhusiano kati ya dhana

Dhima ya AI inahusiana na dhana na sheria mbalimbali za kisheria:

Ramani rahisi ya uhusiano:

Hitilafu ya AI → uharibifu hutokea → kiungo cha causal → dhima imeanzishwa → fidia inafuata
Sheria ya AI → wajibu wa usalama → kutofuata → dhima iliyoongezeka
Dhima ya bidhaa → bidhaa yenye kasoro → mzalishaji atawajibika → fidia ya kiotomatiki

Kanuni ya Kiraia (Kifungu cha 6:162 BW) hudhibiti vitendo vya ukatili, ilhali Maagizo ya Dhima ya Bidhaa hutumika haswa kwa bidhaa zenye kasoro. Sheria mpya ya AI inaongeza majukumu ya ziada kwa mifumo ya hatari ya AI. Mnamo tarehe 28 Septemba 2022, Tume ya Ulaya iliwasilisha rasimu mpya ya maagizo kuhusu dhima ya AI. Maagizo mapya yanahitaji kwamba watengenezaji wawajibishwe kwa urahisi zaidi kwa uharibifu unaosababishwa na AI.

3. Kwa nini dhima ya AI ni muhimu katika uchumi wa kidijitali

Sheria wazi za dhima za AI ni muhimu kwa kukubalika kwa umma na uvumbuzi unaowajibika. Bila uwazi, waathiriwa wa hitilafu za AI wanaweza kuachwa bila msaada, huku wasanidi programu wakipata kutokuwa na uhakika kuhusu hatari zao za kisheria. Ukosefu wa uwajibikaji wazi wa kisheria kwa AI husababisha kutokuwa na uhakika wa kisheria, na matokeo yake waathiriwa wasiweze kupata fidia na kampuni zinasita kufanya uvumbuzi. Umoja wa Ulaya unafanyia kazi kuoanisha sheria ya dhima kwa teknolojia za AI.

Manufaa ya zege ya mfumo wazi wa kisheria:

• Ulinzi kwa wahasiriwa wa makosa ya AI
• Motisha kwa maendeleo salama ya teknolojia mpya
• Kuaminiana kati ya watumiaji na wafanyabiashara
• Kiwango cha kucheza kwa watengenezaji wa AI

Kulingana na utafiti wa Tume ya Ulaya, dhima isiyoeleweka ya AI inaweza kupunguza kasi ya uvumbuzi, na idadi ya madai ya uharibifu unaohusiana na AI iliongezeka mara mbili kati ya 2020 na 2022, haswa katika sekta ya kifedha na huduma ya afya. Wakati mhusika anapata madhara kwa sababu mfumo wa AI hufanya makosa, hii inaweza kusababisha madai changamano ya uharibifu na taratibu za kisheria.

Takwimu za takwimu:

• 60% ya biashara zinasitasita kutekeleza AI kwa sababu ya hatari za dhima, na matumizi ya vitendo ya AI huibua mambo ya ziada ya kisheria.
• Makosa ya AI ya kimatibabu yanachangia 40% ya madai yote yanayohusiana na AI
• Sheria ya EU AI inatumika kwa 15% ya maombi yote ya AI (mifumo ya hatari kubwa) na makampuni yanalazimika kuzingatia kanuni hizi.

Watumiaji wanaweza kutarajia mifumo ya AI kufanya kazi kwa usalama na kwa uhakika, ikilinganishwa na utendaji wa binadamu au teknolojia nyingine. Walakini, hatari inabaki kuwa AI itafanya makosa na athari kubwa, ambayo inasisitiza umuhimu wa sheria wazi za dhima.

4. Muhtasari wa pande zinazowajibika na vyombo vya kisheria

Sheria inayotumika kwa kila hali:

• AI ya Matibabu: Sheria ya AI + kanuni za dhima ya matibabu; sheria na kanuni husika kama vile Sheria ya Usalama ya Mtandao na Mifumo ya Taarifa (Wbni) inatumika
• Magari yanayojitegemea: Sheria ya Trafiki Barabarani + dhima ya bidhaa
• AI ya kifedha: Sheria za usimamizi wa Wft + algorithm
• Maombi ya jumla ya AI: Kanuni ya Kiraia + Sheria ya AI

Wakati wa kuainisha mifumo ya AI, swali linatokea ikiwa programu ya AI inaweza kuchukuliwa kuwa mali inayohamishika, kutokana na hali yake isiyoonekana na utendakazi changamano.

Huduma za kisheria katika uwanja wa AI zinazidi kuanguka chini ya uwanja unaoibuka wa sheria ya kijasusi ya bandia.

5. Mifumo ya AI: Aina, uendeshaji na umuhimu kwa dhima

Mifumo ya AI ni mojawapo ya teknolojia mpya yenye ushawishi mkubwa zaidi wa wakati wetu na inazidi kuchukua jukumu muhimu katika sekta mbalimbali. Mifumo hii inatofautiana kutoka kwa AI inayozalisha, ambayo inaweza kuunda maandishi, picha au maudhui mengine kwa kujitegemea, hadi programu zisizoonekana ambazo hufanya uchambuzi tata au kufanya maamuzi kulingana na kiasi kikubwa cha data. Kinachobainisha mifumo hii ni uwezo wao wa kujifunza kutoka kwa data na kufanya kazi kwa uhuru, mara nyingi bila udhibiti wa moja kwa moja wa mwanadamu.

Mifumo ya AI inafaa sana kwa dhima kwa sababu inaweza kusababisha uharibifu kwa njia za kipekee. Kwa hivyo, Tume ya Ulaya imependekeza Maagizo ya Dhima ya AI, ambayo yanashughulikia haswa dhima ya uharibifu unaosababishwa na mifumo ya AI. Hadi sheria hii mpya ianze kutumika, tunapaswa kutegemea sheria iliyopo ya kitaifa na Maelekezo ya Dhima ya Bidhaa, ambayo awali yaliundwa kwa ajili ya bidhaa zinazoonekana lakini sasa yanatumika pia kwa programu zisizoshikika na maombi ya AI.

Mojawapo ya changamoto kubwa katika dhima ya AI ni kudhibitisha kiunga cha sababu kati ya mfumo wa AI na uharibifu. Kwa sababu ya uwezo wa kujisomea na mara nyingi uwazi mdogo wa mifumo ya AI, si mara zote huwa wazi kama hitilafu au kasoro inaweza kuhusishwa moja kwa moja na mfumo. Hii inafanya kuwa vigumu kubainisha kama bidhaa ina kasoro ndani ya maana ya Maelekezo ya Dhima ya Bidhaa, hasa katika kesi ya AI generative na aina nyinginezo za programu zisizoshikika.

Dhima ya ubora kwa bidhaa zenye kasoro inabakia kuwa kanuni muhimu. Kulingana na Maelekezo ya Dhima ya Bidhaa, ni lazima bidhaa ikidhi viwango vya usalama vinavyoweza kutarajiwa. Walakini, kwa mifumo ya AI, sio wazi kila wakati matarajio hayo ni nini, haswa ikiwa mfumo unaendelea kukuza baada ya kuwekwa katika huduma. Njia ambayo mfumo wa AI umeundwa, kujaribiwa na kudumishwa, maagizo ya matumizi na maonyo yanayotolewa, na kiwango ambacho watumiaji wanafahamu kuhusu hatari zote ni mambo muhimu katika kutathmini dhima.

Sheria ya kesi ya Mahakama ya Haki ya Ulaya na Mahakama ya Juu kuhusu dhima ya bidhaa inatoa mwongozo fulani, lakini maombi yake kwa mifumo ya AI bado hayajathibitishwa kikamilifu. Maagizo yaliyopo na sheria za kitaifa wakati mwingine huwa pungufu katika kushughulikia hatari za kipekee za AI, na hivyo kuunda hitaji la sheria mpya na sheria wazi ya kesi.

Kwa kifupi, uundaji na utumiaji wa mifumo ya AI hutoa fursa kubwa sana, lakini pia huleta changamoto mpya za kisheria. Ni muhimu kwamba mfumo wa kisheria uendane na maendeleo ya kiteknolojia ili dhima ya uharibifu unaosababishwa na mifumo ya AI iweze kudhibitiwa kwa njia ya haki na yenye ufanisi. Hadi wakati huo, inabakia kuwa muhimu kwa makampuni na watumiaji wa AI kuwa macho kuhusu jinsi wanavyotumia mifumo ya AI na kusimamia kwa makini hatari.

6. Mwongozo wa hatua kwa hatua wa kuamua dhima ya AI

Hatua ya 1: Tambua hitilafu na uharibifu wa AI

Kabla ya kuanza, amua:

• Ni uamuzi gani maalum wa AI au matokeo yaliyosababisha uharibifu?
• Je, kuna uharibifu wa moja kwa moja wa kifedha, kimwili au usio wa kimwili?
• Uharibifu ulitokea lini na chini ya hali gani?

Orodha ya kuamua uharibifu: 

□ Andika uamuzi wa AI au matokeo yenye makosa

□ Kusanya ushahidi wa uharibifu uliopatikana

□ Weka ratiba ya matukio

□ Tambua wahusika wote wanaohusika

□ Kuhifadhi kandarasi husika na masharti ya matumizi

Mfano wa hali: Akili bandia ya kuajiri inawakataa wagombea kimakosa kulingana na vigezo vya kibaguzi, na kusababisha uharibifu wa kiuchumi kwa wanaotafuta kazi.

Hatua ya 2: Bainisha aina inayotumika ya dhima

Chagua dhima ya kimkataba wakati:

• Kuna uhusiano wa kimkataba kati ya wahusika
• Mtoa huduma wa AI ametoa dhamana maalum
• Matumizi iko ndani ya vigezo vilivyokubaliwa

Chagua dhima ya bidhaa wakati:

• Mfumo wa AI uko chini ya ufafanuzi wa 'bidhaa'
• Kuna kasoro katika uuzaji
• Uharibifu ulisababishwa na bidhaa yenye kasoro

Chagua dhima ya utesaji wakati:

• Hakuna uhusiano wa kimkataba uliopo
• Mtumiaji wa AI alitenda kwa uzembe
• Kulikuwa na ukiukwaji wa jukumu la utunzaji

Vyombo vya kisheria vinavyopendekezwa:

• Wasiliana na wanasheria maalum wa AI
• Tumia orodha hakiki za kufuata Sheria ya AI
• Wasiliana na makampuni ya bima kuhusu bima

Hatua ya 3: Kusanya ushahidi na uanzishe dhima

Mkusanyiko wa ushahidi wa dhima ya AI:

• Ushahidi wa kiufundi: kumbukumbu, nyaraka za algorithm, data ya mafunzo
• Ushahidi wa mchakato: maagizo ya mtumiaji, taratibu za utekelezaji
• Ushahidi wa uharibifu: athari za kifedha, ripoti za matibabu, maoni ya wataalam

Vipimo vya madai yaliyofaulu ya dhima:

• Ukamilifu wa nyaraka (angalau 80% ya data muhimu)
• Nguvu ya kiungo cha sababu (imethibitishwa kisayansi)
• Uwazi wa kiwango cha uharibifu (athari iliyokadiriwa)

Kiunga cha sababu kati ya kosa la AI na uharibifu ni muhimu. Kwa mifumo changamano ya AI (“black box AI”), hii inaweza kuwa changamoto kiufundi, lakini Maelekezo ya Dhima ya AI yaliyopendekezwa yalitaka kutambulisha mzigo wa kinyume wa uthibitisho kwa hili.

7. Makosa ya kawaida katika dhima ya AI

Kosa la 1: Masharti ya kimkataba yasiyo wazi kuhusu matumizi ya AI Mikataba mingi haina vifungu maalum kuhusu dhima ya AI, na hivyo kusababisha kutokuwa na uhakika kuhusu ni nani anayehusika iwapo makosa yatatokea.

Kosa la 2: Hati za kutosha za maamuzi ya AI
Kampuni mara nyingi hushindwa kuweka kumbukumbu za kutosha na michakato ya kufanya maamuzi, na hivyo kufanya kuwa vigumu kuthibitisha au kukanusha dhima.

Kosa la 3: Kupuuza wajibu wa Sheria ya AI ya EU Mashirika yanayofanya kazi na mifumo ya AI yenye hatari kubwa mara nyingi hupuuza wajibu mpya kuhusu uwazi, uandishi wa nyaraka, na usimamizi wa hatari uliowekwa na Sheria ya AI.

Ushauri wa kitaalamu: Epuka makosa haya kwa kuanzisha utawala wazi wa AI mapema, kurekebisha mikataba yenye vifungu dhahiri vya AI, na kupanga kwa makini kufuata Sheria ya AI. Wekeza katika nyaraka nzuri na ufuatiliaji wa maamuzi ya AI.

8. Mfano wa vitendo: Hitilafu ya AI ya matibabu katika hospitali ya Uholanzi

Uchunguzi wa kesi: "Hospitali X iliepuka dhima ya hitilafu ya utambuzi wa akili bandia kupitia makubaliano sahihi ya kimkataba"

Hali ya awali: Mfumo wa X-ray AI katika hospitali ya Uholanzi ulikosa utambuzi wa saratani katika hatua za mwanzo, na kusababisha matibabu kuchelewa kwa mgonjwa. Mgonjwa alidai fidia kutoka hospitalini na kwa muuzaji wa AI.

Hatua zilizochukuliwa:

1. Uchambuzi wa mkataba: Hospitali ilikuwa imeeleza kwa uwazi kwamba AI ingetumika tu kwa madhumuni ya usaidizi
2. Ushahidi wa mchakato: Nyaraka zilionyesha kwamba mtaalamu wa radiolojia alifanya uamuzi wa mwisho
3. Uchunguzi wa kiufundi: Mtoa huduma wa AI alithibitisha kuwa mfumo ulifanya kazi ndani ya vipimo
4. Mkakati wa kisheria: Rufaa kwa taratibu za kawaida za matibabu na wajibu wa kibinadamu

Matokeo ya mwisho:

• Dhima: Hatimaye ilikabidhiwa kwa mtaalamu wa matibabu ya radiolojia
• Fidia: Imefunikwa na bima ya dhima ya matibabu
• Athari za kimkataba: Mtoa huduma wa AI ameondolewa kwenye madai
• Uboreshaji wa mchakato: Itifaki zilizoboreshwa za usaidizi wa AI

Masomo ya kisheria: Kesi hii inaonyesha umuhimu wa makubaliano ya wazi ya kimkataba na kudumisha uwajibikaji wa mwisho wa kibinadamu kwa matumizi muhimu ya akili bandia katika sekta ya matibabu.

9. Maswali yanayoulizwa mara kwa mara kuhusu dhima ya AI

10. Hitimisho: Mambo muhimu ya dhima ya AI

Pointi 5 muhimu za dhima ya AI katika mazoezi:

1. Vyama vingi vinaweza kuwajibika: kutoka kwa wasanidi programu hadi watumiaji wa mwisho, kulingana na jukumu lao na udhibiti wa mfumo wa AI
2. Makubaliano ya kimkataba ni muhimu: masharti wazi juu ya matumizi ya AI huzuia utata wa kisheria
3. Nyaraka ni muhimu: ukataji miti mzuri na ufuatiliaji wa maamuzi ya AI huimarisha msimamo wako wa kisheria
4. Uzingatiaji wa Sheria ya AI ni lazima: kanuni mpya za Ulaya huunda majukumu ya ziada ya utunzaji kwa mifumo ya hatari kubwa
5. Bima inatoa ulinzi: Bima mahususi ya dhima ya AI inashughulikia hatari ambazo sera za jadi hazizingatii

Mazingira ya kisheria yanayozunguka dhima ya AI yanabadilika haraka. Kwa kuondolewa kwa Maelekezo ya Dhima ya AI na kuanza kutumika kwa Sheria ya AI, inasalia kuwa muhimu kufuatilia maendeleo ya kisheria na kuandaa kikamilifu utiifu na usimamizi wa hatari.

Hatua zinazofuata:

• Kandarasi zako za AI zikaguliwe na kufanyiwa marekebisho kisheria
• Tekeleza taratibu za usimamizi wa AI kwa mujibu wa Sheria ya AI
• Chunguza bima mahususi ya dhima ya AI kwa shirika lako
• Wasiliana na wanasheria waliobobea kwa utekelezaji tata wa AI

Kwa kushughulikia dhima ya AI, unaweza kupata manufaa ya akili bandia huku ukidhibiti hatari za kisheria.