Wykorzystując fabułę klasycznej powieści gotyckiej science fiction, autorzy z Pitch Avatar Zespół bada, czego powinniśmy unikać podczas tworzenia i udoskonalania sztucznej inteligencji.
Ci, którzy obawiają się, że sztuczna inteligencja może wymknąć się spod kontroli i stanowić poważne zagrożenie dla ludzkości, często są określani mianem „syndromu Frankensteina”. To trafne porównanie. Dla porównania, w powieści Mary Shelley z 1818 roku Frankenstein, czyli współczesny Prometeusz, główny bohater, Victor Frankenstein, tworzy humanoidalną istotę z części ciała i ożywia ją. Stworzenie jednak buntuje się przeciwko swojemu twórcy i rozpoczyna serię brutalnych morderstw.
Ta klasyczna opowieść, jedna z najwcześniejszych w gatunku science fiction, jest często cytowana jako przestroga przed próbami stworzenia inteligencji dorównującej ludzkiej mocy. Shelley, wykazując się niezwykłą dalekowzrocznością, pokazał, że takie ambicje mogą prowadzić do katastrofalnych skutków.
Przyjrzyjmy się jednak bliżej fabule i zbadajmy prawdziwe przesłanie powieści Mary Shelley. Przed czym właściwie nas ostrzega?
Przede wszystkim, Victor Frankenstein nie kieruje się praktycznym celem. Nie można go nawet nazwać osobą wyłącznie opętaną naukową ciekawością. Jego praca jest próbą uporania się z osobistym żalem po śmierci matki. Innymi słowy, nie ma jasnego celu, dla którego stworzył swoje laboratoryjne stworzenie. Nie bierze pod uwagę konsekwencji swojego odkrycia ani nie podejmuje niezbędnych środków ostrożności.
Kolejnym błędem Frankensteina jest to, że przerażony swoim dziełem, porzuca je na pastwę losu. Obdarzone rozumem stworzenie uczy się samodzielnie przetrwać wśród ludzi, ale jego samokształcenie jest nieustrukturyzowane i ostatecznie prowadzi do pierwszego aktu przemocy.
W końcu, uświadamiając sobie, że jego dzieło stało się niebezpieczne, naukowiec, zamiast szukać pomocy u kolegów lub autorytetów, próbuje sam poradzić sobie z konsekwencjami swojego eksperymentu. To prowadzi do kolejnych ofiar i ostatecznie do śmierci samego Frankensteina.
Zatem, jeśli spojrzymy na tę historię obiektywnie, ostrzeżenie Mary Shelley nie dotyczy samego odkrycia naukowego, ale źle zaplanowanych, niezabezpieczonych i lekkomyślnych eksperymentów. Stanowi to uniwersalne ostrzeżenie dla wszystkich naukowców, nie tylko tych zajmujących się sztuczną inteligencją.
Podsumowanie
Podczas opracowywania modeli sztucznej inteligencji kluczowe jest jasne zdefiniowanie ich przeznaczenia i zakresu zastosowania. Równie ważna jest ocena potencjalnych zagrożeń i wdrożenie niezawodnego systemu wyłączania.
Każdy model musi przejść wysokiej jakości, systematyczne szkolenie pod nadzorem ekspertów na każdym etapie.
Jeśli eksperymentowanie z konkretnym modelem sztucznej inteligencji wiąże się z rzeczywistym, a nie hipotetycznym, zagrożeniem, eksperci biorący udział w eksperymencie powinni natychmiast powiadomić władze i współpracowników, aby zmobilizowali niezbędne zasoby w celu ograniczenia ryzyka.
Stosując się do tych prostych wskazówek, zainspirowanych powieścią Mary Shelley, możemy zminimalizować ryzyko związane z tym, czego obawiają się zwolennicy „syndromu Frankensteina”.
