Parlament Europejski wezwał w swojej lutowej rezolucji Komisję Europejską do opracowania przepisów dotyczących robotyki oraz sztucznej inteligencji, w celu pełnego wykorzystania ich potencjału przy zachowaniu standardów w dziedzinie etyki i bezpieczeństwa. Czy powstanie europejskie prawo dotyczące robotyki?

****

Wstęp

Parlament Europejski wskazuje w Rezolucji z dnia 16 lutego 2017 r. zawierające zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL), dalej jako „Rezolucja”), że coraz bardziej zaawansowane roboty, komputery i inne wcielenia sztucznej inteligencji zdają się dawać początek nowej rewolucji przemysłowej. Jednocześnie podkreśla się, że w latach 2010–2014 średni wzrost sprzedaży robotów wynosił 17% rocznie, a w 2014 r. sprzedaż wzrosła o 29%, co stanowi najwyższy w historii wzrost sprzedaży z roku na rok. Ponadto, w ciągu ostatnich dziesięciu lat trzykrotnie wzrosła liczba składanych wniosków patentowych dotyczących robotyki. Niewątpliwe korzyści, jakie może przynieść rozwój robotyki i sztucznej inteligencji (np. w zakresie efektywności i oszczędności w dziedzinie produkcji i handlu, ale także opieki zdrowotnej i transportu), wiążą się jednak także z określonymi zagrożeniami. Rezolucja skupia się w tym zakresie przede wszystkim na dwóch kwestiach – zasadach ponoszenia odpowiedzialności za szkody wynikające z „działań” robotów oraz zasadach etycznych adresowanych do projektantów, producentów i operatorów robotów. W Rezolucji wskazuje się także, że konieczne jest stworzenie przy tym wspólnej definicji „inteligentnych autonomicznych robotów”, w uwzględnieniem cech takich jak:

  • zdolność zdobycia autonomii za pomocą czujników lub wymiany danych z otoczeniem (wzajemna łączność) i analizy tych danych;
  • zdolność uczenia się w oparciu o doświadczenie i interakcję;
  • forma wsparcia fizycznego robota;
  • zdolność dostosowania zachowania i działań do otoczenia.

Jednocześnie, Parlament Europejski opowiada się za wprowadzeniem kompleksowego unijnego systemu rejestracji zaawansowanych robotów na rynku wewnętrznym UE.

Przepisy dotyczące odpowiedzialności

Parlament Europejski podkreśla, że zagadnienie odpowiedzialności cywilnej za działania robotów staje się kwestią centralną, gdyż dzięki postępowi technicznemu, roboty potrafią nie tylko zastępować prace, które były dotąd wykonywane przez ludzi, ale także w związku z uzyskaniem pewnych cech autonomii i zdolności poznawczych (np. uczenia się poprzez doświadczenie), „przypominają one coraz bardziej podmioty, które wchodzą w interakcje z otoczeniem i są zdolne do zmieniania go w sposób istotny”. Zasadnicze wątpliwości budzi więc w tym kontekście adekwatność i skuteczność obecnie obowiązujących zasad ponoszenia odpowiedzialności. Wskazuje się, że z pewnymi niewielkimi zastrzeżeniami obecne ramy prawne nie będą wystarczające do uwzględnienia szkód powodowanych przez roboty w zakresie, w jakim będą one w stanie uczyć się w oparciu o swoje niepowtarzalne doświadczenia, z czym wiąże się pewna nieprzewidywalność ich zachowania.

Parlament wskazuje przy tym, że przyszły instrument prawny przyjęty w tym zakresie musi być oparty na przeprowadzonej uprzednio analizie, która powinna odpowiedzieć na pytanie, czy należy zastosować zasady odpowiedzialności na zasadzie ryzyka, czy też podejście zakładające zarządzanie ryzykiem. Parlament podkreśla, że odpowiedzialność na zasadzie ryzyka wymaga jedynie wykazania szkody oraz związku przyczynowo-skutkowego pomiędzy funkcjonowaniem robota a zaistniałą po stronie określonej osoby szkodą. Z kolei drugie podejście tj. zakładające zarządzanie ryzykiem według Parlamentu nie skupia się na osobie „która działa w sposób niedbały” i może ponosić odpowiedzialność indywidualną, ale na „osobie, która może, w określonych okolicznościach, zminimalizować ryzyko i podjąć działania w odniesieniu do negatywnych skutków”. Niezależnie od sposobu ustalenia podmiotu odpowiedzialnego za szkodę, w Rezolucji zakłada się, że zasadniczo odpowiedzialność tych osób powinna być proporcjonalna do poziomu instrukcji, jakie wydano robotowi i stopnia jego autonomii. Oznacz to, że „im dany robot ma większą zdolność uczenia się lub większą autonomię i im dłużej trwało szkolenie robota, tym większa odpowiedzialność powinna spoczywać na osobie prowadzącej szkolenie”.

Wśród proponowanych rozwiązań dotyczących odpowiedzialności, Parlament Europejski opowiada się za wprowadzeniem obowiązkowego systemu ubezpieczeń, który mógłby opierać się na zobowiązaniu producenta do wykupienia ubezpieczenia w związku z wytwarzanymi przez siebie automatycznymi robotami.

Kodeks etyki oraz nowa agencja robotyki

Parlament zwraca uwagę także na konieczność kierowania się przez osoby zaangażowane w rozwój i komercjalizację rozwiązań opartych na sztucznej inteligencji przede wszystkim zasadami bezpieczeństwa i etyki od samego początku ich tworzenia. Parlament Europejski w załączniku do Rezolucji proponuje ramy prawne w formie karty zawierającej kodeks postępowania dla inżynierów w dziedzinie robotyki, kodeks dla etycznych komisji badawczych dokonujących przeglądów protokołów dotyczących robotyki oraz model licencji dla projektantów i użytkowników. Jako przykłady praktycznego przełożenia wymienionych zasad można wskazać zalecenia dla projektantów, aby roboty były wyposażone w swego rodzaju „czarne skrzynki”, które rejestrowałaby wszystkie przeprowadzone operacje, w tym kroki logiczne, które doprowadziły do podjęcia określonej decyzji. Ponadto, projektanci muszą zastosować w swoich rozwiązaniach wyłączniki awaryjne, jak się wydaje aby nie doprowadzić do całkowitej utraty kontroli nad robotem.

Parlament Europejski wzywa także Komisję, by rozważyła utworzenie europejskiej agencji ds. robotyki i sztucznej inteligencji „w celu zagwarantowania fachowej wiedzy technicznej, etycznej i z zakresu stanowienia prawa niezbędnej do wsparcia” podmiotów publicznych. Wskazuje się także, że agencja ta, o ile zostanie utworzona, mogłaby być odpowiedzialna za prowadzenie ww. rejestru zaawansowanych robotów w UE.

Dalsze kroki

Przyjęta Rezolucja stanowi dopiero początek ewentualnej ścieżki legislacyjnej – Parlament Europejski zwrócił się do Komisji o przedłożenie wniosku dotyczącego dyrektywy w sprawie przepisów prawa cywilnego odnoszących się do robotyki w oparciu o szczegółowe zalecenia zawarte w załączniku do Rezolucji. Komisja nie ma obowiązku działania na podstawie parlamentarnych rekomendacji, ale musi podać powód niepodejmowania działań.