10 Minute
În ciuda imaginei dramatice a experimenteului „trolley problem”, răspunsul pentru mașinile autonome nu trebuie căutat în calcule utilitariste imposibil de verificat în timp real. Un grup de cercetători de la Stanford, în colaborare cu Ford, susține că soluția este deja înrădăcinată în „contractul social” al traficului — legislația rutieră și modul în care aceasta este interpretată de instanțe. Această abordare propune ca vehiculele autonome să respecte în general legea și să o încalce doar atunci când este necesar pentru a evita o coliziune, păstrând în același timp obligația de grijă față de toți participanții la trafic.
Problema troliului rescrisă pentru drumurile moderne
Întrebarea clasică a filosofiei morale — ar trebui să deturnezi un tramvai pentru a salva mai multe vieți, sacrificând una? — a devenit relevantă nu doar teoretic, ci și tehnic: ce face un autovehicul autonom când un biciclist pătrunde brusc pe banda sa? Să vireze în contrasens păstrând pasagerii în siguranță sau să lovească biciclistul pentru a evita o coliziune cu mașinile din sens opus?
Chris Gerdes, profesor emerit la Stanford și co-director al Centrului pentru Cercetare Automotive (CARS), argumentează că nu trebuie inventat un nou cod moral pentru mașini. În schimb, trebuie tradus în software contractul social deja stabilit de un secol de reguli rutiere, jurisprudență și instrucțiuni pentru jurați. Ideea centrală: mașinile autonome trebuie să mențină o obligație de grijă față de ceilalți participanți la trafic, urmând legislația rutieră în mod normal și permițându-și abateri doar atunci când sunt necesare pentru a evita un accident.
Legea ca busolă morală: ce înseamnă „urmărește legea” pentru AV
La nivel corporativ, Ford are o politică clară: „Respectă întotdeauna legea”. Proiectul discutat de Gerdes a pornit din întrebări simple: se aplică această politică mașinilor autonome? Și dacă da, când este etic și legal ca un vehicul să încalce temporar regulile rutiere?
Cercetătorii au descoperit că, pe lângă codul rutier, există decizii apelative și instrucțiuni pentru jurați care detaliază responsabilitățile șoferilor. În esență, contractul social rutier cere exercitarea unei „datorii de grijă” — respectarea regulilor cu excepția cazurilor în care încălcarea devine necesară pentru a evita o coliziune. Asta înseamnă că, într-o situație în care nu există trafic din sens opus, trecerea peste linia dublă continuă pentru a evita un biciclist poate fi justificată: s-a încălcat codul rutier, dar nu s-a comis o încălcare a legii, pentru că acțiunea a fost necesară pentru a preveni un accident.
Din perspectiva unei inteligențe artificiale centrate pe oameni, acest principiu este crucial: sistemele AV trebuie să fie răspunzătoare oamenilor, iar cel mai clar mecanism pentru responsabilizare este respectarea legii. Totuși, industria rămâne divizată. Unii susțin „condusul naturalist” — dacă oamenii depășesc limita de viteză, ar trebui ca și AV-urile să facă asta pentru a se integra. Problema este că nu există un fundament legal pentru a susține un astfel de comportament ca practică standard pentru companii care pretind că respectă legea.
Etica programării: ce dileme rămân pentru proiectanți
Principalele dileme etice pentru programatorii AV apar în situații excepționale, când vehiculul nu poate respecta simultan toate obligațiile sale față de pasageri și alți participanți la trafic. Multă vreme dezbaterea publică a fost dominată de abordarea utilitaristă: să-i salvăm pe cât mai mulți, chiar dacă asta înseamnă sacrificarea unor indivizi. Gerdes consideră că premisa ca mașina să decidă „cine merită” este fundamental greșită și, în general, industria respinge programarea explicită a unor astfel de alegeri morale.
Ca alternativă, s-au dezvoltat cadre precum RSS (Responsibility-Sensitive Safety), care propune reguli stricte de păstrare a distanței și a marginilor de siguranță. RSS nu rezolvă explicit dilemele de tip trolley, dar determină comportamente care reduc mult probabilitatea unor coliziuni evitabile. Totuși, chiar și în absența scenariilor programate, un vehicul va reacționa în moduri definitive atunci când se confruntă cu un impact inevitabil — iar întrebarea rămâne: ce anume va alege acel cod?
Calea propusă: menținerea datoriei de grijă către ceilalți
Propunerea de la Stanford este elegantă: programează AV-urile astfel încât acestea să nu aleagă între viețile participanților la trafic pe baza unor calcule de utilitate. În schimb, AV-ul trebuie să urmeze o regulă clară — mențineți datoria de grijă față de toți. Practic, vehiculul va încerca să evite coliziunea cu persoana care a încălcat deja regula (de exemplu, cine a trecut pe roșu), utilizând toate capabilitățile fizice ale mașinii, dar fără a sacrifica alte persoane care respectă legea.
Aceasta schimbă problema: nu mai calculăm probabilități sau „valoarea” vieților implicate, ci aplicăm obligația etică și legală către cel care a produs pericolul. Dacă un pieton intră brusc pe carosabil din vina sa, AV-ul face tot ce poate pentru a evita impactul cu acel pieton fără a pune în pericol alți participanți corecți la trafic.
Există argumente solide în favoarea acestei abordări. În primul rând, este compatibilă cu așteptările șoferilor: dacă respecți regulile, nu trebuie să te temi că un automobil autonom te va sacrifica pentru a salva pe altcineva. În al doilea rând, un calcul utilitar efectuat în fractiuni de secundă este nu doar moralmente problematic, ci și practic imposibil — consecințele impactului depind de factori imprevizibili: unghiuri de coliziune, viteze reale, condiții ale carosabilului, starea clinica a persoanelor implicate, etc.
Impactul asupra încrederii publice
Percepția publică joacă un rol crucial în adoptarea tehnologiilor AV. Studii și comentarii mediatice au alimentat temeri: „mașinile decid cine trăiește”, „algoritmi care evaluează valoarea socială a unei persoane”, sau chiar „vehicule care pot sacrifica pasagerii”. Aceste scenarii, reale sau exagerate, subminează încrederea consumatorilor.
Abordarea lui Gerdes oferă un cadru calmant: dacă vehiculele sunt programate să respecte în general legea și să susțină obligația de grijă, oamenii care respectă regulile nu vor fi expuși la decizii utilitariste ale unei mașini. În plus, chiar și persoanele care greșesc — trecând pe roșu, de exemplu — vor constata că AV-ul folosește toate mijloacele posibile pentru a evita coliziunea, ceea ce ar trebui să reducă riscul fizic și să întărească încrederea în tehnologie.
De la principii la cod: implementarea practică
Un aspect esențial al cercetării este tranziția de la raționamente filosofice și juridice la specificații tehnice implementabile. Echipa de la Stanford a tradus „datoria de grijă” în reguli concrete pe care un programator le poate implementa: păstrarea unei distanțe de siguranță, viteza rezonabilă și prudentă în funcție de context, și marcaje explicite când depășirea regulilor este permisă pentru a evita un accident.
Aceste reguli seamănă cu RSS prin faptul că trasează margini de siguranță în jurul vehiculului, dar le încadrează clar în contextul legal. Astfel, dezvoltatorii pot scrie cod care: 1) respectă limita legală în mod normal; 2) evaluează când încălcarea punctuală a regulii este necesară pentru a preveni un accident; 3) decide acțiunea care protejează pe cei care respectă legea și încearcă să minimizeze riscul pentru toți.
Ford folosește deja astfel de cerințe pentru dezvoltarea internă a AV-urilor și publică rezultatele pentru a încuraja adoptarea ca bune practici în industrie. Această transparență este importantă pentru armonizarea standardelor tehnologice și juridice la scară largă.
Perspective tehnologice și de reglementare
Implementarea practică cere colaborare între filosofi, juriști, ingineri software, ingineri de sistem și autorități de reglementare. Reglementatorii trebuie să recunoască că AV-urile pot avea un comportament excepțional justificat, iar producătorii trebuie să documenteze clar când și cum se face o astfel de derogare de la reguli.
De asemenea, instrumentele de simulare și de verificare formală vor juca un rol major: ele pot demonstra că un set de reguli respectă principiile datoriilor de grijă și minimizează riscurile sistemice. Telemetria, logurile de decizie și auditul algoritmic vor fi necesare pentru a proba, în instanță sau în fața publicului, că un vehicul a acționat conform contractului social programat.
.avif)
Expert Insight
Dr. Elena Marin, ingineră de sisteme autonome la un laborator european de cercetare, comentează: „Traducerea normelor juridice în reguli software este o provocare inter-disciplinară. Ceea ce propun Gerdes și colaboratorii este pragmatic: nu cerem mașinilor să «aleagă» cine trăiește, ci să urmeze o datorie de grijă. Acest lucru simplifică cerințele de responsabilitate și face posibilă verificarea tehnică.”
„De asemenea”, adaugă ea, „transparența în proiectare și testare este cheia—publicul va accepta AV-urile doar dacă poate înțelege și verifica principiile după care acestea operează.”
Ce urmează pentru industria auto și pentru siguranța rutieră
Dacă această abordare se impune larg, putem vedea o schimbare importantă în reglementări și practici: standarde comune care cer ca AV-urile să respecte legea în mod normal, să documenteze excepțiile și să prioritizeze protejarea participanților corecți la trafic. Acest cadru ar reduce riscul de a proiecta sisteme care se bazează pe calcule morale speculative și ar diminua expunerea la litigii grosiere în care o companie ar putea fi acuzată că „a ales” cine să salveze.
Pe termen lung, integrarea acestor principii în software-ul AV ar putea contribui la scăderea numărului total de accidente, deoarece multe coliziuni sunt rezultatul încălcării datoriei de grijă de către oameni. AV-urile proiectate să mențină marginile de siguranță vor preveni interferențele și vor crea un mediu rutier mai predictibil, reducând astfel riscurile pentru toți participanții.
Într-o epocă în care tehnologia avansează mai rapid decât reglementările, traducerea principiilor etice și juridice în specificații tehnice clare oferă o cale realistă și responsabilă de integrare a mașinilor autonome în trafic. Aceasta nu rezolvă fiecare dilemă filozofică, dar oferă o soluție practică, verificabilă și — cel mai important — aliniată cu așteptările societății.
Lasă un Comentariu