System sztucznej inteligencji opracowany przez Facebook stworzył własny język. Opracowała ona system słów kluczowych, aby komunikacja była bardziej wydajna. Kiedy tylko naukowcy zdali sobie sprawę, że SI nie używa już języka angielskiego – wyłączyli system w obawie przed utratą kontroli.
Obserwacja dokonana przez Facebook nie jest odosobnionym przypadkiem. W każdym badaniu SI (sztuczna inteligencja) kontrolowana przez ludzi odeszła od szkolenia w języku angielskim w celu opracowania własnego języka. Powstałe wyrażenia dla ludzi wydają się być nonsensownym bełkotem, ale po głębszej analizie programistów SI odkryto, że zawierają znaczenia semantyczne.
Jak wynika z raportu Fast Co. Design , naukowcy z Facebooka zauważyli niedawno, że nowa SI odmówiła komunikacji w języku angielskim. Zaawansowany system jest w stanie negocjować z innymi SI, aby wiedzieć, jak postępować. Boty zaczęły komunikować się za pomocą fraz, które na początku wydają się niezrozumiałe , ale w rzeczywistości stanowią wartościowy przekaz.
W jednym z dialogów dwa boty negocjujące o imieniu Bob i Alice używały własnego języka, aby „ubić” transakcję. Bob zaczął mówić „Mogę ii wszystko inne”, do czego Alice odpowiedziała „kule mają dla mnie dla mnie dla mnie zero”. Pozostała część rozmowy została utworzona z odmian tych zdań.
Chociaż wydaje się nonsensem powtarzanie zwrotów, takich jak „i” i „dla mnie” to odzwierciedla działanie SI. Naukowcy wierzą, że mamy tu przykład dwóch botów negocjujących, ile z danych elementów powinny wziąść. Późniejsze stwierdzenia Boba, takie jak „i i i mogę i i i wszystko inne” pokazują jak używał języka do zaoferowania Alice większej ilości elementów. Po takiej interpretacji bardziej logiczne niż zwrot SI będzie zdanie „Wezmę trzy i masz wszystko inne”.
Sztuczna inteligencja zdała sobie sprawę, że w dialogu nie potrzebuje bogatej ilości zwrotów w języku angielskim. Nowoczesne SI działają na zasadzie „nagród” – oczekują korzyści po skończeniu zadania. W tym przypadku nie było żadnej nagrody za dalsze używanie języka angielskiego, dzięki temu zbudowali bardziej efektowne rozwiązanie.
„SI zrezygnuje ze zrozumiałego dla nas języka i wymyśli własny”, mówi Dhruv Batra z Fast Research Co. , Facebook Research AI, . „Podobnie jak w przypadku pięciokrotnego powtarzania, zrozumiesz, że chcę mieć pięć egzemplarzy danego przedmiotu. Nie różni się to znacznie od zapisu kreskowego stosowanego przez ludzi”.
Deweloperzy SI w innych firmach również zaobserwowali podobne zachowanie swoich SI, które używały „prostych zwrotów”, aby ułatwić komunikację. OpenAI, laboratorium sztucznej inteligencji założone przez Elona Muska poszło o krok dalej. SI dano jeszcze większą swobodę działania i udało się jej nauczyć własnego języka.
Google translate – przykład tłumaczenia z obrazu
W innym przypadku Google poprawiło usługę Tłumacza, dodając komputerową sieć neuronową. System jest w stanie przetłumaczyć tekst dużo skuteczniej, w tym też między parami języków, których nie został nauczony. Co oznacza, że SI sama się dokształca. Sukcesu ten zaskoczył zespół Google. Naukowcy odkryli, że SI pisała w milczeniu swój własny język, dostosowany specjalnie do tłumaczenia tekstów.
Jeśli języki wymyślone przez sztuczną inteligencję staną się powszechne, mogą na płaszczyźnie komunikacji z człowiekiem stanowić problem przy opracowywaniu i tworzeniu komputerowych sieci neuronowych. Nie ma jeszcze wystarczających dowodów, aby stwierdzić, czy języki SI stanowią zagrożenie, które umożliwi maszynom wyeliminowanie ich stwórców.
Jednak na chwile obecną nic nie wskazuje na to, aby czekała nas apokalipsa rodem z filmów o „terminatorze„. Języki SI powodują utrudnienia w rozwoju tylko dlatego, że ludzie nie mogą ich w pełni zrozumieć. Choć wydają się bezsensowne to wyniki uzyskane przez takie zespoły, jak Google Translate pokazują, że przyczyniają się do skuteczniejszego rozwiązywania problemów.
