Etyczne aspekty robotyzacji procesów biznesowych - propozycja NICE

Jeden z dostawców narzędzi RPA - firma NICE przygotowała etyczne ramy robotyzacji procesów biznesowy (ang. Robo-Ethical Framework). Składają się one z pięciu punktów.

1. Roboty muszą być projektowane pod kątem pozytywnego oddziaływania na otocznie. Twórcy ram wskazują, że złożona automatyzacja wprowadza (lub lada moment wprowadzi) szereg zmian na rynku pracy - zarówno w skali mikro jak i makro. Należy je jednak tak projektować, aby miały pozytywny wkład na kwestie społeczne, ekonomiczne lub środowiskowe. Oznacza to, każdy projekt z udziałem robotów powinien mieć jasno zdefiniowane co najmniej jedno pozytywne uzasadnienie.
2. Roboty muszą być projektowane w taki sposób, aby ignorować specyficzne tożsamości grupowe. Twórcy ram podkreślają konieczność minimalizacji ryzyka stronniczego podejmowania decyzji przez roboty. Oznacza to, że roboty nie powinny uwzględniać cech osobniczych - takich jak kolor skóry, wyznanie, płeć, płeć, wiek, status. Algorytmy treningowe powinny być oceniane i testowane okresowo, aby upewnić się, że są wolne od uprzedzeń.
3. Roboty muszą być projektowane w taki sposób, aby zminimalizować ryzyko wyrządzenia indywidualnej krzywdy. Oznacza to, że aby uniknąć krzywdzenia jednostek, projektanci robotów powinni określić jakie i w jaki sposób decyzje do podejmowania można delegować robotom. Algorytmy i procesy wbudowane w roboty powinny być przejrzyste i stworzone w taki sposób, aby móc wyjaśnić podejmowane decyzje za pomocą jednoznacznego uzasadnienie. Ludzie muszą być w stanie przeprowadzić audytu procesów i decyzji podejmowanych przez robota. Jeśli robot może zaszkodzić jednostce, człowiek musi być w stanie interweniować, aby naprawić taką sytuację i zapobiec jej występowaniu w przyszłości.
4. Roboty muszą być przeszkolone i funkcjonować w oparciu o zweryfikowane źródła danych. Roboty powinny działać wyłącznie w oparciu o dane pochodzące ze znanych i zaufanych źródeł. Źródła danych wykorzystywane do szkolenia algorytmów powinny pozwalać na odwołanie się do oryginalnego źródła.
5. Roboty muszą być zaprojektowane z zachowaniem określonych mechanizmów zarządzania i nadzoru.  Ludzie powinni być informowani o możliwościach i ograniczeniach rozwiązań robotycznych. Platforma robotyczna powinna być zaprojektowana tak, aby chronić przed nadużyciem władzy i nielegalnym dostępem poprzez ograniczanie, proaktywne monitorowanie i uwierzytelnianie każdego dostępu do tej platformy i monitorować każdy rodzaj akcji podjęty na tej platformie.

Na pewno nie wyczerpują one wszystkich aspektów związanych z tym zagadnieniem, ale stanowią dobry (ustrukturalizowany) punkt do rozpoczęcia dyskusji - w szczególności w obszarze robotów kognitywnych.