7 Minutės
Autonominių transporto priemonių (ATP) kūrėjai susiduria su sena filosofine dilema: ar verta leisti sistemai spręsti, kieno gyvybė svarbesnė avarijos akivaizdoje? Stanfordo tyrėjai ir automobilių gamintojai siūlo paprastesnį požiūrį — pažiūrėti į tai per esamą eismo teisės ir socialinio susitarimo prizmę.
Vežimėlio dilema: nuo mąstymo eksperimento iki realaus eismo
„Vežimėlio dilema“ (angl. trolley problem) – klasikinė etikos užduotis, kurioje reikia pasirinkti: nukreipti bėgimus ir taip sutrumpinti aukų skaičių ar neišsižadėti individualių teisių. Filosofai dešimtmečius ginčijosi tarp utilitarinio požiūrio (mažiausiai nukentėtų žmonių) ir principinio požiūrio, saugančio individo teises.
Per pastarąjį dešimtmetį ši minties eksperimentų problema persikėlė į realų pasaulį, kai savavaldės transporto priemonės susiduria su netikėtomis situacijomis — pvz., dviratininkas staiga įvažiuoja į juostą. Ar automobilis turėtų pasukti į priešpriešinį eismą, kad išvengtų smūgio dviratininkui? Ar turėtų saugoti savo keleivius visomis išgalėmis?
Teisinis ir socialinis kontekstas: ką reiškia „priežiūros pareiga"?
Chris Gerdes, Stanfordo mechatronikos ir automatikos specialistas bei Automobilių tyrimų centro (CARS) vadovas, kartu su Ford inžinieriais siūlo sprendimą: nekurkime naujo moralinio standarto — naudokime tą, kurį jau turime kelyje. Daugeliu šalių eismo teisė ir teismų praktika apibrėžia vadinamąją „priežiūros pareigą" (duty of care) — reikalavimą vairuotojui elgtis atsakingai, laikytis taisyklių ir imtis veiksmų, kad būtų išvengta žalos kitiems eismo dalyviams.
Ford politikos šūkis „Visada laikykitės įstatymo" (Always follow the law) kelia esminį klausimą: ar tas pats principas galioja ir nepriklausomam algoritmui? Tyrėjai nustatė, kad eismo kodeksą papildo apeliaciniai sprendimai ir bylos instrukcijos, kurios ilgainiui formuoja socialinį susitarimą — nerašytas taisykles, kaip vairuotojai turėtų taip pat elgtis ir lūkesčiai, kuriuos visuomenė turi vienas kitam.
Praktinis padarinys: AV (autonominė transporto priemonė) turėtų laikytis kelių eismo taisyklių kaip pirmo prioriteto ir pažeisti jas tik tada, kai tai būtina išvengti susidūrimo, o tokie pažeidimai teisiškai gali būti pateisinti. Tokia norma sutampa su ilgalaikiu vairuotojų tarpusavio pasitikėjimu — jei laikaisi taisyklių, neturėtum būti neteisingai baudžiamas už kitų pažeidimus.
Etiniai iššūkiai projektuojant ATP elgesį
Programuotojai susiduria su itin sudėtingais atvejais: situacijose, kai neįmanoma vienu metu užtikrinti saugumo visiems eismo dalyviams ir keleiviams. Iki šiol diskusijos dažnai sukosi apie utilitarinį sprendimą — skaičiuoti nukentėjusiųjų skaičių ir rinktis mažiausiai pražūtingą alternatyvą. Tačiau toks požiūris kelia du klausimus: ar leidžiame mašinai „vertinti“ žmonių gyvybes ir ar toks programavimas yra teisėtai ir socialiai priimtinas?
Autonominių sistemų kūrėjai dažnai teigia, kad jie nekoduoja „vežimėlio“ dilemos, o programuojama saugumo logika. Vienas iš pavyzdžių — RSS (responsibility-sensitive safety) metodika, kuri stengiasi apibrėžti aiškias saugumo taisykles: palaikyk saugų atstumą, reaguok į greičio pokyčius ir pan. Jei visi kelyje laikytųsi RSS taisyklių, susidūrimų išvis būtų išvengiama.
Problema: net kai sistema nėra tiesiogiai programuojama spręsti dilemos, ji vis tiek elgsis kažkaip ekstremaliose situacijose — elgesys gali išsivystyti iš taisyklių rinkinio arba iš techninių apribojimų. Todėl svarbu apibrėžti aiškias gaires, kaip AV turi elgtis, ypač kai kitos transporto priemonės jau pažeidžia priežiūros pareigą.
Praktinis požiūris: nevertinti, o vykdyti priežiūros pareigą
Gerdes pasiūlymas — tai esminių sprendimų pakeitimas: vietoj bandymo įvertinti, kieno gyvybė vertingesnė, AV turi siekti išlaikyti arba atkurti priežiūros pareigą, kurią pažeidė kiti eismo dalyviai. Kitaip tariant, jei kitas vairuotojas peržengė raudoną šviesą arba staiga kirto prieš AV, šis vis tiek turi stengtis išvengti susidūrimo, naudodamas visus savo fizinius ir programinius gebėjimus, bet nedarant žalos trečiosioms, taisyklių besilaikančioms transporto priemonėms.
Tokia strategija reiškia: neskaičiuoti tikimybės, kad vienas smūgis bus mažiau kenksmingas už kitą, nežiūrėti „už ir prieš" pagal galbūt abejotiną matematinį modelį. Vietoj to — nepriimti veiksmų, kurie pažeidžia kito eismo dalyvio teisę į saugumą, nebent tai būtina siekiant išvengti didesnio pavojaus, ir visada vengti kenkti tiems, kurie elgiasi teisėtai.
Pavyzdys
- Scenarijus: dviratininkas staiga persirikiuoja prieš AV.
- Neturint priešpriešinio eismo, AV gali trumpam pervažiuoti dvigubą geltoną liniją, kad išvengtų smūgio — tai gali būti techninis eismo taisyklių pažeidimas, bet teisiškai pateisinamas, nes buvo būtina apsisaugoti nuo susidūrimo.
- Tačiau AV neturėtų pasukti į priešingą juostą, jei ten važiuoja teisėtai einanti transporto priemonė — tai reikštų trečiosios šalis įtraukimą į pavojų.
.avif)
Viešas pasitikėjimas: ar ši politika nuramins visuomenę?
Publika dažnai nerimauja dėl idėjų, kad automobiliai gali „nuspręsti“ aukoti keleivius ar rinktis gyvybes remdamiesi kokiu nors moraliniu algoritmu. Yra baimė, kad AV bus apmokomi pagal „kolektyvinius vertinimus" arba „surenkamą etiką" (crowdsourced ethics), kur sistemos sprendimus formuoja interneto vartotojų moraliniai pasirinkimai.
Gerdes ir jo kolegos siūlo, kad specifinis eismo teisės ir priežiūros pareigos pagrindas sukuria aiškų, piliečiams suprantamą principą: jei tu laikaisi taisyklių, neturi ko bijoti. Net jei kas nors kitas pažeidžia taisykles — AV bus programuota panaudoti savo visus gebėjimus, kad išvengtų susidūrimo, užuot žudžiusi trečiuosius asmenis ar priimdama skaičiavimus dėl „mažiausios žalos" variantų. Tai, pabrėžia Gerdes, turėtų didinti pasitikėjimą technika, nes sistema nėra „vertintojas", o sargybinis, besilaikantis įstatymo ir elgimosi standartų.
Techniniai reikalavimai: kaip perkelti socialinį susitarimą į kodą
Vienas iš praktinių Gerdes pasiūlymo aspektų — konkretizuoti inžinerinius reikalavimus. Kai socialinis susitarimas išskaidomas į fundamentalius elgesio principus, paaiškėja, jog daug kas sutampa su tradicinėmis saugumo priemonėmis: saugus atstumas, adekvatus greitis, atsakingas stebėjimas. Tai leidžia inžinieriams suformuluoti taisykles, kurias galima įrašyti į programinę įrangą.
Tinkamai apibrėžtos taisyklės ir saugos maržos iš dalies primena RSS: aplinkos modeliavimas, griežti saugos ribiniai parametrai, reaktyvumo apribojimai. Tokiu būdu galima sukurti programinį rinkinį, kuris aiškiai nurodo, kada AV gali „pažeisti" eismo taisykles dėl avarinės apsaugos ir kada tokie veiksmai neturi būti atliekami dėl trečiųjų šalių saugumo užtikrinimo.
Šiuo metu „Ford" ir Stanfordas atvirai publikuoja šiuos darbo rezultatus, siekdami, kad juos perimtų ir kiti gamintojai, taip sudarydami prielaidas pramonės praktikoms, kurios būtų suderintos su teise ir visuomenės lūkesčiais.
Expert Insight
„Sprendimas, paremtas priežiūros pareigos principu, yra praktiškas ir moraliai tvarus. Jis neleidžia sistemai tapti tarptautiniu teismo ekspertu, o suteikia paprastą ir aiškiai apibrėžtą elgesio modelį — tai būtina, jei norime, kad visuomenė pasitikėtų autonominėmis technologijomis", — sako dr. Lina Petrauskaitė, transporto inžinerijos docentė ir saugaus eismo tyrėja universitete. "Be to, tai sumažina teisinių rizikų spektrą gamintojams: aiškios gairės, pagrįstos teisės ir teismų praktika, supaprastina atsakomybės nustatymą po įvykio."
Tolesnės perspektyvos: ką tai reiškia ATP plėtrai?
Jei pramonė ir reguliuotojai sutartų dėl tokio požiūrio, galėtume pamatyti kelis esminius pokyčius:
- Standartizuotos saugumo gairės, kurias lengviau integruoti į programinę įrangą ir patikrinti simuliacijose bei realiame pasaulyje.
- Didėjantis visuomenės pasitikėjimas, nes aiškėja, jog ATP nebus programuojami „aukoti" tam, kad pasiektų utilitarinius tikslus.
- Teisinių ginčų sumažėjimas: teismai ir reguliuotojai turės aiškų kontekstą, kaip vertinti AV elgesį po nelaimės.
.avif)
Tai taip pat reiškia, kad kūrėjams reikės atidžiai dokumentuoti sprendimus, algoritmų elgesį ekstremaliose situacijose ir testavimo procedūras. Skaitmeninis socialinio susitarimo perkėlimas į kodą reikalauja ne tik techninės kompetencijos, bet ir teisinių bei etinių konsultacijų.
Galiausiai, klausimas „kas išliks moralus" autonominių sistemų amžiuje gali turėti paprastą atsakymą: nekurkime naujos moralės mašinoms — pritaikykime jau egzistuojančią socialinę sutartį, kodifikuokime ją taip, kad programinė įranga galėtų elgtis prognozuojamai ir teisiškai pagrįstai. Tai žingsnis link saugesnio ir visuomenei priimtino savivaldžių transporto priemonių diegimo.
Komentarai
auto_r
ar iš tiesų įmanoma įstatymą paversti algoritmu? ką daryti kai kitas vairuotojas pažeidžia taisykles? manau, idėja skamba gerai, bet realybė bus sunkesnė.
mechbyte
Wow, įdomu ir logiška. laikytis įstatymo kaip pagrindo, jau egzistuojančios eismo kultūros dalis, tai realus pasitikėjimo kūrimas, o ne ieškojimas vežimėlio sprendimų.
Palikite komentarą