List Wielkiego Mistrza Fra’ Johna Dunlapa w odpowiedzi na przesłanie Papieża Franciszka z okazji 57. Światowego Dnia Pokoju, obchodzonego 1 stycznia 2024 r.
Ojcze Święty,
Dziękuję, że także w tym roku zwrócono uwagę wiernych, przywódców i całego świata na temat o wielkim i rosnącym znaczeniu dla pokoju między ludzkością, który zobowiązuje do bardzo głębokiej i bardzo aktualnej refleksji moralnej.
Jak wynika z głębokiego przesłania Waszej Świątobliwości, sztuczna inteligencja stanowi jeden z tych wielkich skoków wiedzy, które przyniosły radykalne zmiany w życiu kobiet i mężczyzn, takie jak odkrycie ognia, pojawienie się samoświadomości, wynalezienie broni palnej, kontrola rozszczepienia jądrowego i internet. Jednak sztuczna inteligencja radykalnie i zasadniczo różni się od tych epokowych osiągnięć. Jest to korzystne narzędzie zachęcające do badań w wielu dziedzinach wiedzy i ludzkich wysiłków, ale ma także potencjał zastąpienia nie tylko inteligencji, ale nawet serc ludzi, pozbawiając ich ostatecznych decyzji o życiu i śmierci. Istnieje ryzyko, jak po mistrzowsku zauważyła Wasza Świątobliwość, że maszynom sterowanym przez sztuczną inteligencję zostaną powierzone zadania wcześniej powierzane człowiekowi, zgodnie z jego zdolnością oceny i sumieniem.
Ewoluując do punktu, w którym w określonych sektorach możliwości oceny maszyny będą większe niż możliwości człowieka (jak ma to już miejsce w wielu dziedzinach), nieuniknione prawa przetrwania będą oznaczać, że ostateczne decyzje zostaną powierzone maszynie w sprawie użycia uzbrojenia, w tym broni nuklearnej. Czy można sobie wyobrazić, aby decyzje dotyczące reakcji na ewentualny atak nuklearny, które mają zostać podjęte bardzo szybko, zostały powierzone przywódcy, który jak każdy z nas może mieć chwile zmęczenia, zamętu i paniki?
Ponad dziesięć lat temu, kiedy postęp sztucznej inteligencji był daleki od dzisiejszego, „La Civiltà Cattolica” pisała już o zagrożeniach, jakie stwarzają autonomiczne systemy uzbrojenia. Uważam, że wszyscy powinniśmy być wdzięczni za dalekowzroczną uwagę, z jaką Stolica Apostolska obserwuje rozwój systemu oprogramowania i jego wpływ na ludzi, na ich sumienie i na przetrwanie rodzaju ludzkiego oraz Człowieka, który otrzymał i przyjął Przesłanie Chrystusa. Po drugiej stronie Atlantyku panuje pogląd, że ludzie wyposażeni w zaawansowaną sztuczną inteligencję (AI 2.0) w zasadzie staną się „istotami hybrydowymi”, odmiennymi i lepszymi od innych istot ludzkich. Pojawiają się nowe możliwości, ale także nowe, ogromne problemy moralne, społeczne i epistemologiczne, w których, jak się wydaje, poruszamy się przez bardzo gęstą mgłę.
Niestety, jak Wasza Świątobliwość wie lepiej od nas, jest to czas, kiedy to nie miecze zamieniają się w lemiesze, ale lemiesze w miecze. Istnieje ryzyko, że sztuczna inteligencja, jak ma to już miejsce dzisiaj w przypadku mediów społecznościowych i szeroko rozpowszechnionych narzędzi programowych, zostanie wykorzystana do celów geopolitycznych. To ryzyko jest już dziś pewne, jak i to, że systemy kontroli omawiane w Organizacji Narodów Zjednoczonych i Unii Europejskiej będą trudne do skutecznego kontrolowania. Uderzające jest to, że ci sami twórcy i producenci sztucznej inteligencji, na przykład ostatnio w OpenAI, podkreślają ryzyko, jakie nieuregulowany rozwój sztucznej inteligencji może spowodować dla bezpieczeństwa, równowagi społecznej i wolności ludzkości.
Z tą świadomością, ale także z ufną nadzieją, jaką daje nam Pan, oraz mając na uwadze refleksje i ostrzeżenia wyrażone w Orędziu Waszej Świątobliwości na Światowy Dzień Pokoju, zwracam się do wszystkich członków Zakonu św. Jana Jerozolimskiego, aby modlili się ze szczególną gorliwością o ustanie licznych krwawych konfliktów, które się toczą, o stworzenie warunków sprzyjających prawdziwemu i trwałemu Pokojowi oraz za samą Waszą Świątobliwość, która tak często prosi o to wiernych i tych, którzy są przez nią przyjmowani.
Z synowskim oddaniem,
Fra’ John Dunlap
