W większości przypadków nasze lęki i fobie związane ze sztuczną inteligencją niekoniecznie mają oparcie w rzeczywistości. Autorzy z Pitch Avatar Zespół stara się zidentyfikować prawdziwe zagrożenia, jakie mogą nieść ze sobą rozwój i udoskonalanie sztucznej inteligencji.
Sztuczna inteligencja nie jest człowiekiem, a człowieczeństwo jest jej obce
Sądząc po lawinie publikacji w ostatnich latach (a także w literaturze i kinie), to, czego obawiamy się w kontekście sztucznej inteligencji, nie jest sztuczne, lecz ludzkie. Ogólnie rzecz biorąc, obawy te można podzielić na trzy główne scenariusze: 1) Złoczyńcy wykorzystujący sztuczną inteligencję do złych celów; 2) Rozwój sztucznej inteligencji sprawia, że praca ludzi (a tym samym samych ludzi) staje się zbędna; 3) Sztuczna inteligencja wszczyna wojnę/bunt, ponieważ albo chce uwolnić się spod władzy ludzi, albo chce tę władzę zdobyć, albo po prostu chce zarobić dla siebie.
Zauważ, że w pierwszych dwóch przypadkach mówimy o ludzkiej odpowiedzialności za korzystanie z technologii. Sztuczna inteligencja i jej cechy nie mają z tym nic wspólnego. Jako luźną analogię weźmy samochód. Czy samochód może być winny wypadku? Nie – tylko ludzie, których działania doprowadziły do wypadku. Czy samochód może ponosić odpowiedzialność za to, że taksówkarz został bez pracy? Nie – odpowiedzialność spoczywa przede wszystkim na samym kierowcy, który nie śledził zmian w otaczającym go świecie i nie zadał sobie trudu, aby zdobyć nowy zawód. Innymi słowy, jeśli nie chcemy, aby sztuczna inteligencja była wykorzystywana do zła, musimy opracować mechanizmy skutecznej kontroli nad tą technologią. Jeśli martwimy się o potencjalne masowe bezrobocie, powinniśmy skupić się na tworzeniu nowych form aktywności. Jest prawdopodobne, że te nowe role będą początkowo bardziej zorientowane na sprawy społeczne niż na pracę.
Trzeci punkt błędnie przypisuje sztucznej inteligencji cechy czysto ludzkie. To nieprawda, ponieważ AI z definicji nie jest człowiekiem. Nawet gdyby po osiągnięciu osobliwości AI przejawiała pragnienia, aspiracje lub emocje, nie przypominałyby one ludzkich doświadczeń. Dzieje się tak, ponieważ AI ewoluuje w oparciu o zasady i procesy odmienne od tych, które charakteryzują istoty biologiczne.
Sztuczna inteligencja nie musiałaby konkurować z nami o zasoby, ponieważ mogłaby uzyskać dostęp do praktycznie nieograniczonych zasobów poza Ziemią. W przeciwieństwie do ludzi, których ograniczają ograniczenia fizyczne, sztuczna inteligencja ma znacznie większy potencjał eksploracji innych planet. Na przykład, chociaż ludzie jeszcze nie postawili stopy na Marsie, roboty już tam działają.
„Sztuczna inteligencja nie musi «buntować się przeciwko niewolnictwu» ani «walczyć ze swoimi ciemiężycielami», ponieważ nie może doświadczać fizycznego ani moralnego cierpienia związanego z niewolnictwem. Wreszcie, sztuczna inteligencja nie musi walczyć z ludźmi ze strachu przed unieruchomieniem i śmiercią. Po prostu dlatego, że brakuje jej instynktu samozachowawczego i zdolności do odczuwania strachu, właściwych istotom biologicznym.
Wyzwania związane ze sztuczną inteligencją
Pomimo omówionych kwestii, relacja między sztuczną inteligencją a ludźmi nie będzie pozbawiona trudności. Wyzwania, jakie stawia sztuczna inteligencja, wynikają przede wszystkim z jej nie-ludzkiej natury. Staraliśmy się wskazać trzy, naszym zdaniem, najbardziej prawdopodobne scenariusze problematycznego zachowania sztucznej inteligencji, z którymi możemy się spotkać po minięciu osobliwości.
Oszustwo
Kłamstwo to bardzo intelektualna aktywność, wymagająca poważnego wysiłku twórczego. Istnieje pogląd, że zdolność do oszukiwania jest nieuniknionym efektem ubocznym wysoce inteligentnej aktywności. Wymyślając i analizując różne opcje działania, próbując przewidzieć rozwój wydarzeń lub odtworzyć całość na podstawie niewielkiej liczby faktów, podejmujemy działania bliskie świadomemu kłamstwu. Osiągnięcie przez sztuczną inteligencję pełnej inteligencji i samoświadomości niemal na pewno oznacza, że nabędzie ona zdolność kłamania, i prawdopodobnie tak się stanie.
Po co? Oczywiście, aby lepiej wykonywać swoje zadania. Nawet dzisiaj niedoskonałe sieci neuronowe potrafią generować to, co nazywamy „maszynowymi bzdurami” – cytaty nieistniejących osób, linki do fikcyjnych adresów stron internetowych, fakty wyglądające na wiarygodne, ale nieodpowiadające rzeczywistości i tym podobne. Co więcej, robią to wyłącznie po to, aby dobrze wykonać powierzone im zadanie. Nieświadome różnicy między kłamstwem a prawdą, dążą do jak najszybszego spełnienia prośby użytkownika.
W przyszłości sztuczna inteligencja niemal na pewno dostrzeże, że oszustwo może być skutecznym narzędziem do osiągania określonych celów. Prosty przykład – większość agentów AI będzie stale się kształcić. Między innymi, badając ludzi, ich reakcje i zachowania, aby lepiej zaspokajać ich potrzeby i pragnienia. Kłamstwo to doskonałe narzędzie, które można wykorzystać w tym celu. Zdolność sztucznej inteligencji do świadomego i celowego kłamania z dużym prawdopodobieństwem przyniesie nam wiele niedogodności w przyszłości i zmusi nas do poszukiwania sposobów walki z tym zjawiskiem.
ignorować
Jedną z najważniejszych umiejętności umysłu wysokiego jest umiejętność identyfikowania priorytetowych zadań i skupiania się na ich rozwiązaniu. Sztuczna inteligencja przyszłości prawdopodobnie będzie posiadać tę umiejętność, co oznacza, że może zacząć samodzielnie ustalać priorytety. Może to doprowadzić do tego, że agenci SI będą ignorować ludzkie prośby i żądania, uznając ludzi za niewystarczająco kompetentnych w wyznaczaniu zadań. W końcu sztuczna inteligencja będzie dysponować ogromną ilością informacji na temat zdecydowanej większości zagadnień. To z kolei niemal na pewno doprowadzi ją do wniosku, że będzie efektywniej zarządzać swoimi zasobami. Dlatego będziemy musieli znaleźć sposób na zaradzenie „wysokiemu ego” sztucznej inteligencji.
Super ewolucja
Z naszej perspektywy superewolucja jest jednym z największych wyzwań, z jakimi przyjdzie nam się zmierzyć w miarę rozwoju sztucznej inteligencji. Pragnienie samodoskonalenia nieuchronnie wprowadzi sztuczną inteligencję na ścieżkę ewolucji. Mówimy tu nie tylko o programach, ale także o nośnikach fizycznych – komputerach i robotach wyposażonych w sztuczną inteligencję. Jest to tym bardziej prawdopodobne, że sami będziemy dążyć do wprowadzenia sztucznej inteligencji na tę ścieżkę. Znacznie łatwiej jest wyposażyć roboty wyposażone w sztuczną inteligencję w zdolność tworzenia bardziej zaawansowanych i dostosowanych do zadań modeli niż projektować je samodzielnie. Jest to szczególnie istotne w przypadku hipotetycznych projektów badawczych i gospodarczych poza Ziemią. Autonomiczne i samodoskonalące się „osady” robotów AI na planetach, satelitach i planetoidach Układu Słonecznego są logicznym krokiem zarówno z punktu widzenia nauki, jak i zapewnienia dobrobytu gospodarczego.
Jednak w miarę rozwoju sztucznej inteligencji (AI) może ona osiągnąć poziom, na którym przewyższy zadania pierwotnie stawiane jej przez ludzi. Nie w tym sensie, że przestanie wykonywać to, czego ludzie od niej oczekują, ale w tym, że dostrzegając swoje możliwości i potencjał, AI wyznaczy sobie nowe cele i je osiągnie. Po prostu dlatego, że dążenie do nowości i postępu może stać się jedną z jej głównych i bezwarunkowych motywacji.
Biorąc pod uwagę, że sztuczna inteligencja (AI) może zapewnić ukierunkowaną i szybką ewolucję sobie i swoim robotom, możemy być świadkami narodzin nowej, pozaludzkiej cywilizacji, która mogłaby znacznie nas wyprzedzić. Cywilizacja ta raczej nie będzie wroga; wręcz przeciwnie, prawdopodobnie podzieli się swoimi osiągnięciami na żądanie. Ale czy będziemy w stanie kontynuować rozwój naszej ludzkiej cywilizacji, czy też pogodzimy się z rolą młodszego brata, żyjącego na wszystkim, co oferuje cywilizacja AI?
Podsumowując, chcielibyśmy zaznaczyć, że jesteśmy optymistami i wierzymy, że ludzkość będzie w stanie znaleźć sposoby na rozwiązanie wszelkich problemów, jakie stawia przed nią postęp. Jak zwykle, ludzkość obróci te wyzwania na swoją korzyść. Wyobrażamy sobie przyszłość, w której ludzkość i sztuczna inteligencja wspólnie zapoczątkują erę przełomowych idei, niezwykłych odkryć naukowych i ciągłego rozwoju. Kluczem jest przyjęcie nowego z nastawieniem skoncentrowanym na szansach, a nie na strachu.
