"PhotoRobot AI" valdymo santrauka

Šis dokumentas yra "PhotoRobot AI Governance Summary: Version 1.0 – PhotoRobot Edition"; uni-Robot Ltd., Čekija.

‍

‍

Įvadas - "PhotoRobot AI" valdymo santrauka

Šiame dokumente pateikiama išsami ir įmonės lygio "PhotoRobot" valdymo požiūrio į dirbtinį intelektą apžvalga. Jis parašytas pirkimų, teisinėms, atitikties ir informacijos saugumo komandoms, vertinančioms dirbtinio intelekto įgalintų produktų funkcijų saugumą, skaidrumą ir atskaitomybę. Šioje santraukoje pateikiami principai, procesai ir valdikliai, kurie reglamentuoja visą dirbtinio intelekto kūrimą ir diegimą visoje "PhotoRobot" ekosistemoje.

‍

‍

Valdymo sistemos apžvalga

Valdymo sistemos tikslas

Sistema užtikrina, kad dirbtiniu intelektu grindžiamos galimybės:

• veikti saugiai ir nuspėjamai,
• laikytis teisinių ir reguliavimo reikalavimų,
• gerbti privatumo ir duomenų apsaugos principus,
• užtikrinti skaidrų funkcionalumą ir paaiškinamumą,
• prireikus įtraukti žmogaus priežiūrą,
• nuolat stebimi ir vertinami.

Ši sistema atitinka mūsų dirbtinio intelekto valdymo politiką, kuri nustato privalomus valdiklius per visą modelio gyvavimo ciklą.

‍

Vaidmenys ir atsakomybė

"PhotoRobot" išlaiko aiškiai apibrėžtus vaidmenis, kad užtikrintų atskaitomybę:

• AI valdymo vadovas prižiūri atitiktį, dokumentaciją ir rizikos peržiūras.
• Duomenų valdytojai užtikrina mokymo duomenų rinkinių vientisumą ir kokybę.
• Mašininio mokymosi inžinieriai yra atsakingi už modelio projektavimą, testavimą ir pasirengimą eksploatacijai.
• Saugumo pareigūnai atlieka rizikos vertinimus ir užtikrina atsparumą netinkamam naudojimui.
• Produktų savininkai patvirtina numatyto naudojimo, sąžiningumo ir skaidrumo reikalavimus.
• Žmonės tikrina slaptus rezultatus ir, jei reikia, nepaiso automatinių sprendimų.

‍

‍

Duomenų rinkinių valdymas

Duomenų gavimo principai

Modelių mokymui naudojami duomenų rinkiniai yra griežtai vertinami:

• duomenų kilmės patikrinimas,
• leidžiamų naudojimo teisių dokumentacija,
• slapto turinio peržiūra,
• jei įmanoma, asmenį identifikuojančios informacijos pašalinimas,
• pusiausvyrą, kad būtų sumažintas šališkumas, kai įmanoma.

‍

Duomenų rinkinio kokybės kontrolė

Duomenų kokybė turi atitikti griežtus standartus:

• nuoseklumo patikrinimai,
• dublikatų šalinimas,
• anotacijų patvirtinimas,
• metaduomenų žymėjimas,
• saugojimą patvirtintoje saugioje aplinkoje.

‍

Duomenų rinkinio kilmė ir versijų kūrimas

Kiekviena duomenų rinkinio versija registruojama su:

• šaltinio informacija,
• schemos istorija,
• keisti žurnalus,
• patvirtinimo ataskaitos.

Duomenų rinkinio linija palaiko atkuriamumą, auditavimą ir atsekamumą atitikties tikslais.

‍

‍

Modelio kūrimas ir patvirtinimas

Modelio projektavimo reikalavimai

Naujos AI funkcijos turi atitikti AI kūrimo politikoje nustatytus reikalavimus:

• aiški paskirtis ir paskirtis,
• dokumentais pagrįstą galimą riziką,
• modelio ribų aprašymas,
• atsarginis elgesys dėl klaidų ar neapibrėžtumo,
• apsaugos nuo netinkamo naudojimo.

‍

Patvirtinimas ir testavimas

Modeliai patvirtinami naudojant:

• etaloniniai testai,
• sąžiningumo ir šališkumo vertinimus,
• prieštaringų duomenų patikimumo patikros,
• veiksmingumo vertinimas įvairiomis sąlygomis,
• atkuriamumo patvirtinimas.

Visi rezultatai yra dokumentuojami ir peržiūrimi prieš diegimą.

‍

Paaiškinamumas ir skaidrumas

Jei įmanoma, "PhotoRobot" teikia:

• modelio elgesio paaiškinimai,
• supaprastinti sąnaudų ir išvedinių aprašymai,
• automatizuotų sprendimų sudedamųjų dalių atskleidimas,
• Kūrėjo pastabos apie modelio apribojimus.

‍

‍

Diegimas ir stebėjimas

Diegimo apsaugos priemonės

Prieš išleidžiant gamybą, dirbtinio intelekto komponentai atliekami:

• tarpusavio vertinimas,
• valdymo vadovo patvirtinimas,
• saugumo vertinimas,
• integracijos testavimas,
• etapinės diegimo procedūros.

Diegimas vykdomas pagal saugaus kūrimo ciklą (SDLC) ir pakeitimų valdymo strategiją.

‍

Nuolatinis stebėjimas

Dirbtinio intelekto sistemos nuolat stebimos:

• našumo pablogėjimas,
• anomalus elgesys,
• netikėtas prognozių poslinkis,
• delsos ar patikimumo problemos,
• grėsmės saugumui ir priešiški modeliai.

Automatiniai monitoriai perteikia įspėjimus operatoriams, kai viršijamos ribos.

‍

Dreifo valdymas

Modelio poslinkis aptinkamas:

• statistinis pokyčių stebėjimas,
• periodiniai patvirtinimo bandymai,
• veiklos regresijos analizė.

Kai dreifas patvirtinamas, modelis iš naujo įvertinamas, perkvalifikuojamas arba atšaukiamas.

‍

‍

Rizikos klasifikavimas ir mažinimas

AI rizikos pakopos

Modeliai klasifikuojami pagal:

• galimas poveikis,
• žalos tikimybė,
• reguliavimo pozicija,
• pasitikėjimą neskelbtinais duomenimis,
• Vartotojo matomumas.

‍

Poveikio mažinimo priemonės

Kiekvienoje pakopoje yra reikalingi valdikliai:

• 1 pakopa (maža rizika): standartinė stebėsena ir dokumentacija.
• 2 pakopa (vidutinė rizika): papildomi sąžiningumo testavimo ir žmonių peržiūros vartai.
• 3 pakopa (didelė rizika): privalomos žmogaus darbo eigos, išplėstinis patvirtinimas ir periodinis auditas.

‍

‍

Atitikties suderinimas

JAV reguliavimo suderinimas

PhotoRobot atitinka su:

• NIST AI rizikos valdymo sistema,
• FPK sąžiningumo ir skaidrumo gairės,
• besiformuojantys JAV valstijos lygmens dirbtinio intelekto valdymo principai.

‍

Tarptautinis reguliavimo suderinimas

Mūsų valdymo metodas suderinamas su:

• EBPO dirbtinio intelekto principai,
• kuriami ISO/IEC AI standartai,
• ES dirbtinio intelekto akto klasifikacijos ir rizikos lygio reikalavimai.

Tai užtikrina pasirengimą atitikčiai nepriklausomai nuo diegimo rinkos.

‍

‍

Dirbtinio intelekto saugumo aspektai

DI sistemos laikosi visų pagrindinių saugumo kontrolės priemonių, apibrėžtų:

• prieigos kontrolės politika,
• Šifravimo politika,
• reagavimo į incidentus politika,
• Registravimo ir stebėjimo strategija.

Papildomos dirbtinio intelekto apsaugos priemonės apima:

• saugi modelio vykdymo aplinkų smėlio dėžė,
• įvesties patvirtinimas pagal prieštaringus modelius,
• sustiprintos sąsajos modelio ryšiui,
• išvadų paslaugų tarifo ribojimas,
• Slaptų modelių sprendimų audito registravimas.

‍

‍

Žmogaus priežiūra ir įsikišimas

Net ir automatizuojant, žmonės išlieka sprendimų priėmimo ciklo dalimi:

• dviprasmiški atvejai,
• didelio poveikio veiksmai,
• išimtys arba nepaisymas,
• kokybės užtikrinimo procesus.

Priežiūros darbo eigos apima galimybę pristabdyti modelius, atšaukti versijas arba nukreipti užduotis žmonėms.

‍

‍

Išvada

Ši dirbtinio intelekto valdymo santrauka parodo "PhotoRobot" įsipareigojimą saugiai, etiškai, skaidriai ir gerai kontroliuojamai naudoti dirbtinį intelektą. Taikydama struktūrizuotą valdymo metodą, griežtą testavimą, nuolatinį stebėjimą ir derinimą su tarptautinėmis sistemomis, "PhotoRobot" užtikrina, kad dirbtinio intelekto funkcijos išliktų patikimos, saugios ir paruoštos įmonėms klientams visuose regionuose.