18 marca w Arizonie doszło do wypadku w trakcie testów autonomicznego auta firmy Uber. Elaine Herzberg weszła na ulicę w nieoznakowanym miejscu. Mimo że za kierownicą elektrycznego volvo XC90 siedział człowiek nadzorujący test, samochód nawet nie próbował hamować. Kobieta została potrącona, zmarła w szpitalu. To pierwszy taki wypadek spowodowany przez autonomiczne auto. Na kim spoczywa odpowiedzialność za taki wypadek? Na kierowcy? Na programiście? A może winna była 49-latka? – rozważa w w tekście Śmierć na drodze do automatyzacji pojazdów Bartłomiej Pograniczny. Zupełnie inną odpowiedź proponuje inżynier Robert Kojer, czytelnik REO.

Pan Bartłomiej Pograniczny w swoim tekście Śmierć na drodze do automatyzacji pojazdów rozważa kwestie odpowiedzialności za wypadek spowodowany przez pojazd autonomiczny. Charakter rozważań dobrze oddaje cytowane w omawianym artykule zdanie doktora Bobera: Odpowiedzialny będzie musiał być człowiek, bo mimo coraz większego rozwoju technologii nie ukarzemy przecież auta. Jestem inżynierem, nie prawnikiem, wydaje mi się jednak, że popełniony tu został błąd myślowy typowy dla okresu przełomów technologicznych – mianowicie system prawny stworzony w sytuacji, gdy ośrodkiem decyzyjnym był zawsze człowiek, próbujemy zastosować do sytuacji, gdy ośrodkiem decyzyjnym jest autonomiczna maszyna. Oczywiście póki co, oprogramowanie tworzą ludzie, ludzie też decydują o zasadach dopuszczenia do ruchu takich maszyn. Jednak niedługo oprogramowanie będzie tworzone przez algorytmy sztucznej inteligencji, z niewielkim tylko udziałem człowieka lub też bez tego udziału.

Śmierć na drodze do automatyzacji pojazdów

Dlatego, mając nadzieję na sprowokowanie dyskusji, zadam pytanie – czemu zakładamy, że MUSI być kara, że ktoś lub coś musi czy przynajmniej powinien być ukarany? Oczywiście pomijam tu przypadki, gdy ktoś celowo np. zmodyfikował kod czy dopuścił się rażącego niedbalstwa. Chodzi mi o sytuację, gdy do wypadku doszło na skutek niedoskonałości oprogramowania lub sprzętu.

Karanie osób, które dopuściły się wykroczenia czy przestępstwa ma określone cele. Podaję za Wikipedią:
• naprawienie szkody spowodowanej przestępstwem;
• uczynienie zadość sprawiedliwości;
• satysfakcja pokrzywdzonego;
• prewencję szczególną (doświadczenie kary kształtuje przyszłe zachowanie sprawcy w ten sposób, że sprawca raczej będzie starał się nie wrócić do przestępstwa);
• prewencję ogólną (świadomość karania sprawców określonych czynów kształtuje zachowanie społeczeństwa w ten sposób, że jednostki:
– raczej nie są skłonne dopuszczać się tych czynów (prewencja negatywna),
– czują się obowiązane współdziałać z organami ścigania i sądami przy ściganiu sprawców tych czynów (prewencja pozytywna).

Kwestia naprawienia szkody spowodowanej przestępstwem w przypadku zdarzeń w ruchu drogowym jest dobrze określona w obecnym prawodawstwie poprzez rekompensatę finansową doznanych krzywd, realizowaną przez mechanizm ubezpieczenia OC. W przypadku pojazdów autonomicznych mechanizm ten może dalej funkcjonować.
W kwestiach uczynienia zadość sprawiedliwości czy satysfakcji pokrzywdzonego publiczne spalenie samochodu na stosie mogłoby odnieść pożądany efekt, jednak byłoby to zaspokojenie raczej niskich instynktów.

W przypadku kar za wykroczenia i przestępstwa popełniane przez kierujących pojazdami najistotniejsze w naszej dyskusji są kwestie prewencji: szczególnej – poprzez karę wpłynięcie na kierowcę, by w przyszłości nie popełniał podobnych czynów i prewencji ogólnej – wpłynięcie na innych kierowców, by nie popełniali określonych czynów w obawie przed karą. W przypadku pojazdów autonomicznych prewencja szczególna wynikać będzie nie z faktu ukarania (samochodu? programisty? producenta?), lecz z faktu wprowadzenia poprawek do oprogramowania pojazdu. Podobnie prewencja ogólna (unikanie pewnych sytuacji przez inne pojazdy autonomiczne) nie wynikać będzie ze strachu przed karą, lecz z aktualizacji oprogramowania.

W przypadku pojazdów autonomicznych kluczową kwestią będzie możliwość uczenia się przez WSZYSTKIE pojazdy na podstawie doświadczeń pojedynczych aut. Innymi słowy, dla poprawy bezpieczeństwa istotna będzie nie kwestia karania za błędy, lecz kwestia wprowadzenia obowiązku udostępniania doświadczeń zebranych z ruchu pojazdu dla wszystkich, który zajmują się tą kwestią.
Reasumując: uważam, że w przypadku rozwoju pojazdów autonomicznych nie powinniśmy koncentrować się na kwestii karania za wypadek, lecz na stworzeniu takiego mechanizmu wymiany wiedzy, aby każdy wypadek służył do udoskonalenia oprogramowania wszystkich, nawet konkurencyjnych, pojazdów.

Robert Kojer