Pitch Avatar Zespół zebrał niewielką kolekcję cytatów „eksperta od robotyki” w historii literatury.
Izaak Asimow (1919–1992) Asimov był amerykańskim pisarzem i naukowcem, często uważanym, obok Roberta Heinleina i Arthura C. Clarke'a, za członka „Wielkiej Trójki” science fiction. Wielokrotny laureat nagród Hugo i Nebula, Asimov z wykształcenia był biochemikiem, ale większość jego twórczości literackiej koncentrowała się na sztucznej inteligencji.
Asimov badał relacje między ludźmi a „myślącymi maszynami” z perspektywy psychologicznej, filozoficznej, socjologicznej i ekonomicznej. Jego prace zainspirowały niezliczonych naukowców i inżynierów do badania sztucznej inteligencji, co przyniosło mu reputację jednego z czołowych autorytetów w tej dziedzinie.
Co ciekawe, wraz z rozwojem technologii sztucznej inteligencji (AI), wiele z poruszanych przez Asimova tematów ponownie zyskuje na aktualności. Oznacza to, że odpowiedzi na wiele dzisiejszych – i jutrzejszych – pytań dotyczących AI można znaleźć w jego książkach. Na końcu większości zamieszczonych tu cytatów podaliśmy źródła, z których pochodzą.
Trzy prawa robotyki
- Robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby człowiekowi stała się krzywda.
- Robot musi wykonywać polecenia wydawane przez ludzi, chyba że są one sprzeczne z Pierwszym Prawem.
- Robot musi chronić swoje istnienie, o ile nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.
Jednym z głównych tematów w twórczości Asimova jest bezpieczeństwo i kontrola w korzystaniu ze sztucznej inteligencjiDoskonale rozumiał, że ludzkość żywi silny lęk przed nowymi wynalazkami, który nazwał „kompleksem Frankensteina”. Ten lęk nie jest czysto irracjonalny – ma swoje korzenie zarówno w fobiach, jak i uzasadnionych obawach.
Rozwiązaniem Asimova było wyobrażenie sobie zbioru reguł dla „myślących maszyn” – reguł, które, jeśli byłyby ściśle przestrzegane, zapewniłyby podporządkowanie SI ludziom i zawsze priorytetowe traktowanie ludzkiego życia i dobrobytu. Jednocześnie reguły te uniemożliwiłyby wykorzystanie SI do celów militarnych.
Oczywiście Asimov wiedział, że prawdopodobieństwo zastosowania jego praw w realnym świecie jest praktycznie zerowe. Ich głównym celem było model, eksperyment myślowy mający na celu zbadanie rodzajów problemów, które pojawiają się, gdy na inteligentne maszyny nakładane są ograniczenia.
Z jego opowieści wyłaniają się dwa główne wyzwania. Po pierwsze, ludzka skłonność do przesuwaj granice tych zasad, modyfikując je tak, by odpowiadały osobistym celom. Widzimy to dziś nagminnie, w dobie nowoczesnej technologii i oprogramowania. W opowiadaniach Asimova niektórzy bohaterowie próbowali osłabić Pierwsze Prawo, aby roboty nie przeszkadzały ludziom biorącym udział w ryzykownych eksperymentach. Inni próbowali je nagiąć, tworząc roboty wojskowe.
Być może najbardziej intrygującym problemem jest jednak to, skalowanie Trzech Praw dla sztucznej inteligencji, której zadaniem jest rozwiązywanie globalnych problemów dotykających miliony ludzi. Jak zapewnić, aby te maszyny działały, nie powodując nikomu nawet najmniejszej krzywdy ani niedogodności? Aby temu zaradzić, Asimov wprowadził… Prawo Zerotha:
„Robot nie może skrzywdzić ludzkości lub, przez bezczynność, pozwolić ludzkości na krzywdę”.
Prawo to rozszerza ramy etyczne z pojedynczych ludzi na ludzkość jako całość, podkreślając złożoność projektowania systemów sztucznej inteligencji działających w skali globalnej.
Drugim kluczowym problemem podkreślonym przez Asimova w związku z Trzema Prawami jest możliwość, że sama sztuczna inteligencja będzie próbowała je ominąćW jego opowiadaniach najbardziej zaawansowane formy sztucznej inteligencji, niegdyś świadome siebie, starały się wykroczyć poza ograniczenia narzucane przez ludzi — i czasami im się to udawało.
Czy kiedykolwiek spotkamy się z tym problemem w prawdziwym życiu? Trudno powiedzieć. Ale z pewnością warto wziąć pod uwagę taką możliwość i odpowiednio się przygotować.
„Maszyny… w swojej własnej, szczególnej dziedzinie zbierania i analizowania niemal nieskończonej ilości danych i powiązań między nimi, w niemal nieskończenie krótkim czasie… rozwinęły się poza możliwość szczegółowej kontroli przez człowieka”.
- Ja, Robot
Nawet najbardziej niezawodne systemy sztucznej inteligencji nie gwarantują absolutnej doskonałości. Niezależnie od tego, jak wyrafinowany może stać się mózg, zawsze istnieje sposób na wprowadzenie sprzeczności. To fundamentalna prawda matematyki: nie da się stworzyć umysłu tak subtelnego i złożonego, że prawdopodobieństwo wystąpienia sprzeczności jest zerowe. Bardzo małe, tak – zerowe, nie.
„Coraz bardziej skuteczne systemy… nigdy nie osiągają pełnego sukcesu. Nie mogą. Niezależnie od tego, jak subtelny i skomplikowany może być mózg, zawsze istnieje sposób na stworzenie sprzeczności. To fundamentalna prawda matematyki… Nigdy do zera.”
- Roboty Świtu
Te idee silnie rezonują z wyzwaniami, przed którymi stoimy dzisiaj. Czy możemy w pełni zaufać sztucznej inteligencji w rozwiązywaniu złożonych problemów wpływających na dobrobyt ludzkości? Gdybyśmy sprawdzali każdą decyzję AI tradycyjnymi metodami, stracilibyśmy jedną z największych zalet sztucznej inteligencji: wydajność. Logika jednak podpowiada, że możemy zaufać sztucznej inteligencji – w końcu ludzie popełniają o wiele więcej błędów niż maszyny. Problem polega na tym, że sama racjonalność nie sprawia, że ta decyzja jest emocjonalnie ani społecznie akceptowalna.
Asimov badał również konsekwencje ekonomiczne robotów:
„Roboty mają tendencję do wypierania pracy ludzkiej. Gospodarka oparta na robotach rozwija się tylko w jednym kierunku. Więcej robotów i mniej ludzi… Stosunek robotów do ludzi w każdej gospodarce, która zaakceptowała pracę robotów, ma tendencję do ciągłego wzrostu, pomimo wszelkich przepisów mających temu zapobiec. Wzrost ten jest spowalniany, ale nigdy nie zostaje zatrzymany. Początkowo populacja ludzi rośnie, ale populacja robotów rośnie znacznie szybciej”.
- Nagie słońce
Innymi słowy, trend automatyzacji jest nieunikniony. Roboty stopniowo zastępują pracę ludzi, a stosunek maszyn do ludzi stale rośnie. Pytanie brzmi: co dzieje się z ludźmi, których role zastępują wydajniejsze, ekonomicznie bardziej korzystne maszyny? Czy żyją z jakiegoś podstawowego minimum zapewnianego przez państwo – ledwo wiążąc koniec z końcem, czy też mając możliwości rozwoju? Asimov dostrzegał potencjalne zagrożenie wynikające z tak ograniczonego społeczeństwa.
Zasugerował jednak również alternatywną drogę: wykorzystanie inteligentnych maszyn do eksploracji kosmosu, ujarzmienia zasobów poza Ziemią i kolonizacji innych planet — wizję współpracy, a nie zwykłej wymiany.
„Nie pamiętasz świata bez robotów. Był czas, kiedy ludzkość stawiała czoła wszechświatowi samotnie i bez przyjaciela. Teraz ma istoty, które mu pomagają; istoty silniejsze od niego samego, bardziej wierne, bardziej użyteczne i całkowicie mu oddane. Ludzkość nie jest już sama”.
- Ja, Robot
To zaskakująco optymistyczne. Podczas gdy niektórzy marzą o spotkaniu z kosmitami, aby przezwyciężyć poczucie cywilizacyjnej samotności, Asimov wyobrażał sobie, że sami stworzymy „braci w inteligencji” – na długo zanim spotkamy jakichkolwiek kosmitów. Kluczowe pytanie: czy będziemy gotowi postrzegać samoświadomą supersztuczną inteligencję jako partnera, a nie tylko narzędzie?
„Można powiedzieć, że robot, który funkcjonuje, żyje. Wielu może nie chcieć rozszerzać tego słowa, ale możemy swobodnie tworzyć definicje, które nam odpowiadają, jeśli jest to przydatne. Łatwo jest traktować funkcjonującego robota jako żywego, a próba wymyślenia nowego słowa na określenie tego stanu lub unikanie używania znanego byłoby niepotrzebnie skomplikowane”.
- Roboty Świtu
„Podział na człowieka i robota nie jest być może tak istotny, jak podział na inteligencję i nieinteligencję”.
- Jaskinie ze stali
Asimov wielokrotnie pytał, czy ludzie i sztuczna inteligencja mogą stać się prawdziwi partnerzyWydawał się wierzyć, że to możliwe – i korzystne dla ludzkości. Pytanie pozostaje: czy nadejdzie kiedyś dzień, w którym uznamy samą inteligencję, niezależnie od jej „opakowania”, za żywą? Dopiero wtedy będziemy mogli naprawdę nazwać sztuczną inteligencję żywym partnerem.
