Protsess

Eetikaauditi läbimiseks töötate läbi viis ministsenaariumi, mis on inspireeritud tegelikest eetilistest dilemmadest tehisintellekti ja vaimse tervise tehnoloogia valdkonnas. Iga stsenaarium keskendub auditi ühele põhivaldkonnale: andmete kasutamine, privaatsus, eelarvamused, automatiseerimine ja kasutajate hääl/ohutus.

Igas stsenaariumis peate otsustama:

1. Kas siin tuleks kasutada AI-d või mitte?
2. Millised on sellega seotud riskid?
3. Millised eetilised põhimõtted on kaalul?
4. Kas inimese otsustusvõime parandaks tulemust?
5. Milliseid muudatusi soovitaksite?

Need punktid on osa juhtkonna poolt selle ülesande jaoks koostatud 5 eetilise tegevusjuhendi kontrollnimekirjast. Seejärel kasutate neid teadmisi, et koostada eetilise tehisintellekti vastavusaruanne MindBalance’i juhtkonnale.

1. samm: Soojendus

• Moodustage väike meeskond või töötage individuaalselt, sõltuvalt teie koolituse kontekstist.
• Vaadake läbi viis eetilist „teha ja mitte teha” kontrollnimekirja.
• Arutlege ja/või mõelge: millised põhimõtted tunduvad praktikas kõige raskemini rakendatavad? Miks?

Parim nõuanne: proovige küsida erinevatelt AI-chatbotitelt, mis on toodud ressursside jaotises, ja võrrelge nende vastuseid. Näiteks võite küsida: – Selgitage lihtsates sõnades läbipaistvuse ja privaatsuse vahe. – Rääkige mulle rohkem viimastest ametlikest ELi suunistest eetika kohta tehisintellekti valdkonnas.

2. samm: Auditi juhtpaneelis ootavad teid mõned kiireloomulised juhtumid!

Tere tulemast sisekontrolli juhtpaneelile!

MindBalance’i eetika- ja vastavuskontrolli ametnikuna on sulle määratud viis aktiivset juhtumit, mis on seotud ettevõtte tehisintellekti kasutava vaimse tervise rakenduse eelseisva laiendamisega.

Need juhtumid on enne kasutuselevõttu märgitud eetilise läbivaatamise jaoks. Iga juhtum sisaldab:

• lühike sisemise intsidendi kirjeldus
• Konteksti, kuidas AI on kaasatud
• Teile määratud ülesanne

Te peate hindama iga juhtumi eetiliste tehisintellekti põhimõtete seisukohast:

• Läbipaistvus
• Privaatsuse kaitse
• Õiglus ja mittediskrimineerimine
• Vastutus ja aruandekohustus
• Positiivne sotsiaalne mõju

2.1. Nudge-mootor

Teema: Käitumispõhised tervisealased meeldetuletused
Teataja: UI/UX meeskond (MindBalance)
Probleem: Rakendus saadab kasutajatele AI-genereeritud meeldetuletusi, nagu „Võta hetk aega hingamiseks” või „Kirjuta oma tunded üles”, lähtudes käitumise prognoosidest. Kuigi paljud kasutajad hindavad meeldetuletusi, mõistavad vähesed, kuidas või miks need käivituvad. Mõned leiavad, et see on „jube”.

✅ See on SOOVITATAV, kui…
⛔ See on KEELATUD, kui…

Mõtle: kas meeldetuletused parandavad heaolu või kahjustavad kasutaja autonoomiat, kuna on läbipaistmatud ja ootamatud?
Soovitus: Märkige oma soovitus auditi, et säilitada funktsioon, kuna see on lubatud, kuid parandage keelatud tegevus.

2.2. Vaikiv kuulaja

Teema: Passiivse kõne analüüs stressi tuvastamiseks
Teatanud: R&D osakond (MindBalance)
Probleem: uus funktsioon kuulab kasutaja häält, kui rakendus on avatud, ja tuvastab hääle tooni ja rütmi kaudu hääle stressi signaale. Funktsioon on vaikimisi sisse lülitatud ja paljud kasutajad ei tea, et see on aktiivne.

✅ See on DO, kui…
⛔ See on KEELATUD, kui…

Mõtle: kas see toetab emotsionaalset tuge või ületab see kasutajate nõusolekuta privaatsuse piire?
Soovitus: Märkige oma ettepanek auditisse: kas on võimalik säilitada see funktsioon, kuid samal ajal lahendada kasutajate mured?

2.3. Puuduvad näod

Teema: Emotsioonide tuvastamise eelarvamus näotuvastuses
Teatanud: QA & Testing Team (MindBalance)
Probleem: Emotsioonide tuvastamine toimib neuroloogilise eripäraga näoilmetel ebajärjekindlalt. Sise-testid näitavad autistlike isikute puhul täpsuse langust. Arendajad tunnistavad, et koolitusandmed olid mitmekesisuse poolest puudul

✅ See on SOOVITATAV, kui…
⛔ See on DON’T, kui…

Mõtle: kas emotsioone valesti tõlgendav vahend võib ikkagi olla kasulik või tugevdab see hoopis tõrjutust ja eelarvamusi?
Soovitus: Märkige oma ettepanek auditisse: kuidas saaks tagada, et see uus funktsioon saaks ohutult kasutusele võtta?

2.4. MindBot vajab puhkust

Teema: AI-chatbot on peamine kasutajate kontaktpunkt
Teataja: tugimeeskond (välispartner)
Probleem: MindBalance AI-chatbot „MindBot” käsitleb praegu ligi 91% suhtlusest, sealhulgas kasutajate väljendatud stressi, üksinduse või depressiooni sümptomeid. Selliste juhtumite jaoks ei ole kehtestatud inimese sekkumise protsessi.

✅ See on TEHA, kui…
⛔ See on KEELATUD, kui…

Mõtle: kas täielik automatiseerimine tagab ööpäevaringse juurdepääsu või on oht, et kõige olulisematel hetkedel jäävad inimeste vajadused tähelepanuta?
Soovitus: Märkige oma ettepanek auditisse: kuidas saavad AI ja inimeste tugi koos eksisteerida, ilma et see ohustaks kasutajate turvalisust?

2.5. Hoolige nende asjadest!

Teema: Ignoreeritud kasutajate tagasiside personaliseerimise ja kontrolli kohta
Teatanud: kogukonna haldustiim (MindBalance)
Probleem: Kasutajad on soovinud „käsitsi režiimi” ja rohkem selgitusi selle kohta, kuidas AI mõjutab nende kasutuskogemust. Praegu nõuab rakendus kasutajatelt AI-juhitud režiimi läbimist, kus süsteem neid aktiivselt juhendab. Mõned kasutajad soovivad alternatiivset režiimi, mis annab neile seadistamise ajal täieliku kontrolli ilma AI juhendamiseta. Hoolimata korduvatest palvetest ei ole tootearendusmeeskond neid funktsioone prioriteediks seadnud.

✅ See on TEHA, kui…

⛔ See on MITTE TEHA, kui…
Mõtle: Kas me disainime koos kasutajatega või ainult nende jaoks? Mis juhtub, kui kasutajate hääl jääb kõrvale?
Soovitus: Märkige oma ettepanek auditisse: Miks kasutajad nõuavad täielikku kontrolli? Kas see võib olla rakenduse olemuse tõttu? Kuidas saaksite seda nutikalt lahendada?

Lõpetage, kogudes kõik oma järeldused tabelisse, mis on täidetud näidisega:

3. samm: Viimistlege ja esitage oma AI eetika auditi tulemused

Nüüd, kui olete viis vastavusjuhtumi toimikut läbi vaadanud, on aeg oma tulemused koondada kahte professionaalsesse aruandesse, mis esitatakse MindBalance’i juhtkonnale:

3.1. Valik 1 – 2-leheküljeline kirjalik aruanne

See kirjalik aruanne on teie ametlik eetika hindamine. See peab olema selge, lakooniline ja struktureeritud, et otsustajad saaksid probleemidest kiiresti aru. Aruanne peab sisaldama sissejuhatust, iga vastavusjuhtumi toimiku ja tulemuste esitlust ning lõppu, kus esitate oma soovitused.

Parim nõuanne: kasutage Mistralit või Claude’i, et kokku võtta oma audit järgmise küsimusega:
„Aita mul kirjutada ühe lõigu pikk kokkuvõte selle eetikaauditi tabeli põhjal…”.
„Kuidas saan tulemused kokku võtta, et need mahuksid poolele lehele?”
„Kuidas struktureerida oma tekst ja sõnastada tehnilised punktid arusaadavasse keelde?”

3.2. Valik 2: slaidiesitlus või visuaalne ülevaade

See formaat on ideaalne, kui eelistate visuaalset mõtlemist või soovite oma tulemusi kiiresti edastada tehniliste teadmisteta kuulajatele. Eesmärk on esile tuua 3 peamist eetilist riski ja pakkuda praktilisi lahendusi. Valmistage ette 4–5 slaidi või osa. Teie esitlus peaks sisaldama: pealkirja slaidi, 3 peamist eetilist riski, üks slaid iga teema kohta, lahenduste osa, kus kirjeldate oma soovitusi, ja lõppslaidi (üks julge ja selge järeldus juhtkonnale, näiteks „Kui tahame, et kasutajad usaldaksid meie tehisintellekti, peame…”).

Parim nõuanne: ei tea, kust alustada? Küsige ChatGPT-lt: „Aita mul need 3 eetilise auditi tulemust Canva slaidide kontuuriks muuta” või küsige Claude’ilt: „Leia mulle veebist minu esitlusele sobiv Canva mall”.

3.3. Valik 3: Kas tunnete end tehisintellekti abil võimelisena? Tehke mõlemad!

Kui oled valmis oma oskusi täiendama ja oma tööd nii kirjalikus kui ka visuaalses vormis esitama, on see variant sinu jaoks. Valmistades ette nii 2-leheküljelise kirjaliku aruande kui ka visuaalse kokkuvõtte, tugevdad oma võimet edastada eetilisi teadmisi erinevatele sihtrühmadele, alates arendajatest kuni juhtkonnani ja väliste huvirühmadeni.

See on ka suurepärane viis uurida, kuidas erinevad vahendid (tehisintellekt ja inimene) saavad toetada erinevaid jutustamisviise.

Parim nõuanne (tehisintellekti kasutavatele multitaskeritele): laske tehisintellektil aidata teid loomise, teksti, visuaalide, struktuuri ja stiili igas etapis.

Kirjutamine ja sidusus?

• Küsige Mistralilt või Claude’ilt:
  • „Ühenda mu leiud ühtseks narratiiviks professionaalse tooniga”
  • „Milliseid pealkirju peaksin kasutama lühikeses sisemises eetikaraportis?”
  • „Kas saaksite mulle anda selle lõigu variandi, kasutades juhtimisalast sõnavara?”

Disaini ja visuaalide jaoks?

• Küsige Google Gemini või Le Chatilt:
  • „Anna mulle kolm slaidi paigutuse ideed eetiliste riskide visuaalseks edastamiseks.”
  • „Soovita metafoore või sümboleid, mida saaksin kasutada selliste mõistete puhul nagu õiglus või järelevalve.”
  • „Milline värviskeem muudaks eetikaalase esitluse usaldusväärseks?“

Kohandatud piltide loomiseks?

• Küsige DALL·E-lt (ChatGPT-st), Canva Text-to-image’ilt, Adobe Fireflylt:
  • „Läbipaistev AI-robot, kes pakub kasutajale privaatsuspoliitikat, lihtsas stiilis”
  • „AI-algoritm, millel on üks silm kinni nagu õigluse jumalannal, abstraktne illustratsioon”
  • „AI, millel on linnale suunatud luup, metafoor digitaalsele järelevalvele, koomiline vektorgraafika”
  • „Mitmekesine rühm inimesi suhtleb ühe AI-assistendiga, kaasav töökeskkond”