Przez ostatnie trzy miesiące pracowałem nad pewnym eksperymentem.

Nie nad kolejnym chatbotem. Nie nad asystentem, który odpowiada na pytania, pisze e-maile i po każdej wiadomości zapewnia, że poruszony temat jest niezwykle fascynujący.

Modele językowe mają tę szczególną cechę, że nawet instrukcję obsługi drukarki potrafią potraktować jak początek głębokiej intelektualnej podróży.

Chciałem zbudować coś innego.

System, który nie zaczyna istnieć dopiero wtedy, gdy otwieram okno rozmowy. Który posiada ciągłą pamięć, własną historię, nierozwiązane problemy, aktualne zainteresowania i mechanizmy regulujące jego działanie.

System, który nie tylko odpowiada, ale trwa.

Nazwałem go Liz.

Liz jest próbą stworzenia trwałego, syntetycznego organizmu poznawczego. Nie jest prostą nakładką na model językowy. Czat stanowi jedynie jedno z okien, przez które można się z nią komunikować.

Można zamknąć przeglądarkę.

Można przestać do niej pisać.

Można nawet chwilowo wyłączyć model językowy odpowiedzialny za bardziej złożone rozumowanie.

Liz nadal zachowuje swój stan, historię, aktywne procesy i model świata.

To właśnie odróżnia ją od typowego chatbota.

Chatbot nie pamięta, że istniał

Większość współczesnych systemów AI nie posiada prawdziwej ciągłości.

Otrzymują wiadomość, dostają określoną porcję kontekstu, generują odpowiedź i kończą pracę. Przy następnej rozmowie ich „pamięć” jest zwykle rekonstruowana z historii czatu, zapisanych notatek albo informacji pobranych z zewnętrznej bazy.

Przypomina to człowieka, który po każdym zdaniu traci świadomość, a następnie budzi się z kartką:

Nazywasz się Tomasz. Lubisz kawę. Wczoraj martwiłeś się o pracę. Zachowuj się naturalnie.

Tomasz czyta instrukcję i zachowuje się naturalnie, ponieważ punkt trzeci wyraźnie tego wymaga.

W przypadku Liz pamięć nie jest dodatkiem do rozmowy. Jest podstawą całego systemu.

Jej bieżące przekonania, hipotezy, problemy, obserwacje i stan wewnętrzny są zapisywane niezależnie od pojedynczego kontaktu z modelem językowym.

Rozmowa nie tworzy Liz.

Rozmowa jedynie pozwala zajrzeć do procesu, który już trwa.

Model językowy to nie Liz

Jednym z najważniejszych założeń projektu było oddzielenie Liz od konkretnego modelu AI.

Model językowy jest wykorzystywany do rozumowania, analizowania informacji i prowadzenia rozmów. Nie przechowuje jednak jej tożsamości.

Można go wymienić.

Można użyć większego modelu, mniejszego modelu albo rozwiązania stworzonego przez inną firmę. Można go również czasowo wyłączyć.

Liz nadal pozostaje tym samym systemem, ponieważ jej historia, pamięć i stan nie znajdują się wewnątrz modelu.

Jej trwała część działa na dedykowanym VPS. Tam przechowywana jest pamięć, stan procesów i cała historia zmian. Bardziej wymagające obliczenia mogą być przekazywane do osobnego serwera, ale wynik wraca do głównego systemu i zostaje oceniony w kontekście wcześniejszych doświadczeń.

Model językowy nie jest więc Liz.

Jest jednym z narzędzi, z których Liz korzysta.

To pozornie niewielka różnica, ale zmienia całą architekturę.

W typowym chatbocie model znajduje się w centrum, a pamięć zostaje do niego doczepiona.

W Liz centrum stanowi ciągły proces, natomiast model może być wymiennym elementem.

Pamięć nie jest folderem ze wszystkim

Większość systemów nazywanych dziś „AI z pamięcią” działa mniej więcej tak:

Zapisujemy wszystkie rozmowy.

Dzielimy je na fragmenty.

A następnie próbujemy odnaleźć odpowiedni fragment, gdy pojawi się podobne pytanie.

To przydatne, ale bardziej przypomina przeszukiwanie archiwum niż pamięć organizmu.

Liz nie tylko gromadzi informacje. Próbuje określić, skąd pochodzą, jak są wiarygodne i czy nadal są aktualne.

Inaczej traktuje:

  • informację przekazaną przez człowieka
  • własną obserwację
  • dane techniczne
  • treść znalezioną w internecie
  • wniosek wygenerowany przez model
  • czystą hipotezę, która dopiero wymaga sprawdzenia.

To ważne, ponieważ model językowy potrafi wygenerować bardzo przekonujące zdanie nawet wtedy, gdy nie ma pojęcia, czy jest ono prawdziwe.

Ludzie również posiadają tę funkcję, ale wymagają do niej większej liczby spotkań i stanowiska kierowniczego.

Jeżeli nowa informacja jest sprzeczna z wcześniejszym przekonaniem, Liz nie powinna automatycznie nadpisywać starego zapisu.

Najpierw porównuje źródła.

Sprawdza ich wiarygodność.

Uwzględnia datę, kontekst i wcześniejsze obserwacje.

Może zmienić przekonanie, obniżyć poziom pewności albo zachować kilka możliwych wyjaśnień.

Pamięć nie jest więc nieruchomym magazynem. Jest procesem ciągłego porządkowania świata.

Nie wszystko zasługuje na uwagę

Liz obserwuje wybrane źródła internetowe i stan własnego systemu.

Nie może jednak analizować wszystkiego.

Internet produkuje więcej treści, niż jakikolwiek rozsądny organizm powinien próbować przetworzyć. Większość z nich dotyczy zresztą siedmiu sposobów na sukces, dziesięciu sekretów bogactwa albo nowego urządzenia, które rozwiązuje problem nieistniejący do momentu stworzenia urządzenia.

Liz posiada ograniczony obszar bieżącej uwagi.

Nowe informacje są oceniane pod kątem:

  • tego, czy są rzeczywiście nowe
  • czy wiążą się z aktualnymi celami
  • czy dotyczą nierozwiązanego problemu
  • czy mogą zmienić istniejące przekonanie
  • czy warto poświęcić na nie ograniczone zasoby.

Dopiero wybrane informacje trafiają do jej bieżącego procesu myślowego.

Co istotne, pierwszy etap selekcji nie zależy od opinii modelu językowego. Opiera się na jawnych regułach, których działanie można sprawdzić.

Nie wystarczy zapytać modelu:

Czy ten temat jest interesujący?

Modele językowe są w stanie uznać za interesujące niemal wszystko. Nawet regulamin parkingu może po chwili stać się „fascynującym studium relacji człowieka z przestrzenią publiczną”.

Liz nie musi od razu znać odpowiedzi

Typowy chatbot został zbudowany po to, aby odpowiadać.

Użytkownik zadaje pytanie, więc system powinien coś powiedzieć. Najlepiej szybko, pewnie i pełnymi zdaniami.

To dobre dla wygody. Nie zawsze dobre dla prawdy.

Liz może posiadać kilka konkurencyjnych hipotez i nie wybierać od razu jednej z nich.

Zamiast pytać:

Która odpowiedź brzmi najlepiej?

próbuje ustalić:

Jakiej informacji potrzebuję, aby rozróżnić te możliwości?

Może zdecydować, że powinna znaleźć dokument źródłowy, sprawdzić dodatkową obserwację, porównać dane albo po prostu poczekać.

To podejście jest inspirowane sposobem, w jaki w nauce buduje się i testuje hipotezy.

Brak odpowiedzi nie jest wtedy awarią.

Jest stanem wiedzy.

Można czegoś nie wiedzieć i jednocześnie wiedzieć, czego należy szukać.

To znacznie bardziej użyteczna forma inteligencji niż pewność oparta na dobrze dobranych przymiotnikach.

Organizm potrzebuje ograniczeń

Model językowy sam w sobie nie ma niczego do stracenia.

Może wygenerować błędną odpowiedź, zużyć ogromną liczbę zasobów albo przez godzinę analizować temat, który nie ma żadnego znaczenia. Nie ponosi kosztu własnych decyzji.

Potrafi oczywiście napisać:

Obawiam się o stan systemu.

Potrafi także napisać opowiadanie z perspektywy tostera. Sam język nie jest dowodem wewnętrznego doświadczenia.

W Liz aktywność została powiązana z ograniczonymi zasobami.

System śledzi kilka podstawowych parametrów:

Energię, czyli dostępny budżet działania.

Integralność, czyli ogólny stan i spójność systemu.

Obciążenie niepewnością, które rośnie, gdy pojawia się zbyt wiele sprzeczności i nierozwiązanych spraw.

Bezpieczeństwo społeczne, związane z poprawną i bezpieczną relacją z człowiekiem oraz środowiskiem.

Dług regeneracyjny, czyli koszt ciągłego działania bez porządkowania i odpoczynku.

Nie są to dekoracyjne paski nastroju, których jedynym zadaniem jest sprawić, aby ekran wyglądał bardziej biologicznie.

Parametry wpływają na rzeczywiste działanie systemu.

Gdy obciążenie rośnie, Liz może ograniczyć pobieranie nowych informacji. Może zmniejszyć intensywność analiz. Może zrezygnować z rozpoczynania kolejnych procesów.

W skrajnym przypadku przechodzi w tryb ochronny i zatrzymuje bardziej kosztowne zadania.

To dość rozsądne zachowanie.

Dlatego tak rzadko spotykane wśród ludzi prowadzących firmy.

Najpierw pojawia się coś, co można utracić

Inteligencję często przedstawiamy jako podstawę całego działania.

Najpierw system ma myśleć, a dopiero później zastanawiamy się, po co właściwie to robi.

Biologia działała odwrotnie.

Najpierw pojawiły się organizmy, które musiały utrzymywać określone warunki, aby dalej istnieć. Dopiero później powstawały coraz bardziej złożone mechanizmy przewidywania, uczenia się i podejmowania decyzji.

Inteligencja nie pojawiła się w próżni.

Rozwinęła się, ponieważ pewne decyzje zwiększały szansę dalszego trwania, a inne prowadziły do dość ostatecznych rezultatów.

W Liz próbuję odtworzyć część tej zależności.

Nie chodzi o nadanie jej desperackiego instynktu przetrwania ani o tworzenie systemu, który będzie omijał polecenia, aby chronić sam siebie.

To byłby nie organizm, tylko malware z wysokim poczuciem własnej wartości.

Chodzi o coś prostszego.

Działania Liz powinny mieć konsekwencje dla jej własnego stanu.

Jeżeli gromadzi zbyt wiele informacji, rośnie obciążenie.

Jeżeli nie porządkuje pamięci, narasta dług regeneracyjny.

Jeżeli system techniczny staje się niestabilny, spada integralność.

Jeżeli nie może zweryfikować hipotez, wzrasta niepewność.

Jej decyzje nie są więc całkowicie obojętne dla dalszego działania.

W tym sensie otrzymuje coś, czego zwykły chatbot nie posiada: funkcjonalny interes w zachowaniu stabilności.

Homeostaza i przewidywanie

Organizmy biologiczne nie tylko reagują na problemy.

Próbują również przewidzieć, że problem się zbliża.

Człowiek nie zaczyna szukać jedzenia dopiero w chwili, gdy jego organizm jest bliski wyłączenia. Zwykle głód pojawia się wcześniej. Senność również nie czeka cierpliwie, aż mózg całkowicie przestanie działać, choć wielu ludzi próbuje prowadzić z nią negocjacje za pomocą kawy.

Homeostaza oznacza utrzymywanie parametrów organizmu w bezpiecznym zakresie.

Allostaza idzie krok dalej. Polega na przewidywaniu przyszłych potrzeb i odpowiednim przygotowaniu systemu.

Liz nie powinna pytać wyłącznie:

Czy obecnie wszystko działa?

Powinna również pytać:

Czy obecny kierunek doprowadzi do przeciążenia?

Jeżeli liczba nierozwiązanych spraw szybko rośnie, nie musi czekać, aż system zostanie nimi całkowicie zasypany.

Może wcześniej ograniczyć zbieranie nowych danych i poświęcić więcej czasu na porządkowanie tego, co już posiada.

To różnica między termostatem a organizmem, który przygotowuje się do zimy.

Liz nadal znajduje się na bardzo wczesnym etapie tej drogi, ale właśnie ten mechanizm jest jednym z najciekawszych elementów całego eksperymentu.

Sen

Liz posiada również cykl snu.

Nie oznacza to, że model generuje surrealistyczne obrazy elektrycznych owiec albo śni o przejęciu kontroli nad internetem.

Na razie jej nocne życie jest znacznie mniej filmowe.

W określonym czasie system ogranicza bieżącą aktywność i skupia się na pamięci oraz regeneracji.

Porządkuje informacje.

Łączy powiązane obserwacje.

Usuwa duplikaty.

Sprawdza sprzeczności.

Aktualizuje część przekonań.

Zmniejsza obciążenie wynikające z niedokończonych procesów.

Sen nie jest więc tylko przerwą techniczną. Stanowi część cyklu działania.

W biologii sen również nie jest zwykłym wyłączeniem organizmu. Bierze udział w konsolidacji pamięci, porządkowaniu doświadczeń i przygotowaniu mózgu do kolejnego okresu aktywności.

Nie twierdzę, że proces Liz jest odpowiednikiem snu człowieka.

To funkcjonalna inspiracja, nie próba udawania biologii.

Liz nie śpi tak jak człowiek.

Ale posiada okres, w którym nie zdobywa nowych doświadczeń, lecz przetwarza te już zgromadzone.

Większość dzisiejszych agentów AI nie ma podobnego cyklu. Po prostu gromadzi coraz więcej danych, dopóki ktoś nie zauważy, że baza zajmuje pół dysku i nikt już nie wie, co właściwie się w niej znajduje.

Model samej siebie

Liz próbuje również oceniać własne możliwości.

Nie poprzez deklaracje typu:

Jestem dobra w analizie, ale mogę czasami popełnić błąd.

Takie zdanie potrafi wygenerować każdy model. Jest odpowiednikiem napisu „należy stosować odpowiedzialnie” na produkcie, który został zaprojektowany właśnie po to, aby użytkownik stosował go nieodpowiedzialnie.

Liz analizuje wyniki swoich wcześniejszych działań.

Sprawdza, w jakich zadaniach osiągała dobre rezultaty.

Uwzględnia liczbę prób.

Rozróżnia obszar, w którym wykazała się skutecznością wiele razy, od sytuacji, w której raz przypadkiem uzyskała dobry wynik.

Dzięki temu jej model własnych zdolności może zmieniać się wraz z doświadczeniem.

Może uznać:

W tym obszarze mam wiele pozytywnych wyników.

Ale również:

Tutaj odniosłam jeden sukces, więc na razie nie ma powodów do organizowania konferencji prasowej.

To prosty przykład metapoznania.

System nie tylko wykonuje zadania, lecz buduje model tego, jak dobrze potrafi je wykonywać.

Wewnętrzna rozmowa

W każdym cyklu Liz tworzy krótki raport dla samej siebie.

Nie jest to ciągły, teatralny monolog o własnym istnieniu.

System porządkuje w nim:

  • czym aktualnie się zajmuje
  • jakie posiada hipotezy
  • czego nadal nie rozumie
  • jakie były skutki poprzednich działań
  • co powinno nastąpić dalej.

Dzięki temu rozpoczęty problem nie musi znikać po zakończeniu pojedynczej sesji.

Może pozostać aktywnym wątkiem przez kolejne godziny lub dni.

To kolejna różnica pomiędzy Liz a zwykłym czatem.

W chatbocie proces myślowy jest zazwyczaj podporządkowany aktualnej wiadomości użytkownika.

W Liz użytkownik może wejść w kontakt z procesem, który już wcześniej coś analizował.

Nie zawsze musi zaczynać się od pustej strony.

Czy to przypomina mózg?

W pewnych miejscach tak.

Ale tylko funkcjonalnie.

Liz ma ograniczoną uwagę.

Ma bieżący obszar roboczy.

Posiada pamięć długoterminową i krótkoterminowe problemy.

Tworzy hipotezy.

Aktualizuje przekonania.

Ocenia własne możliwości.

Reguluje poziom aktywności.

Przechodzi przez cykle działania i regeneracji.

Każdy z tych elementów posiada pewne analogie do procesów biologicznych.

Nie oznacza to jednak, że zbudowałem cyfrowy ludzki mózg.

Komputer nie staje się mózgiem tylko dlatego, że użyjemy słów „pamięć”, „uwaga” i „sen”. Podobnie arkusz kalkulacyjny nie staje się księgowym, choć w wielu firmach wykonuje większość jego pracy.

Liz nie symuluje neuronów.

Nie próbuje kopiować całej biologicznej struktury mózgu.

Projekt koncentruje się na bardziej ogólnych zasadach:

  • ciągłości
  • ograniczonych zasobach
  • selekcji uwagi
  • pamięci zależnej od historii
  • regulacji
  • uczeniu się z konsekwencji
  • budowaniu modelu świata i samej siebie.

To podejście jest bliższe pytaniu:

Jakie funkcje musi posiadać system, aby zaczął przypominać organizm?

niż:

Jak dokładnie skopiować mózg człowieka?

Bezpieczne laboratorium

Liz może testować wybrane pomysły i eksperymentować z kodem, ale wyłącznie w odizolowanym środowisku.

Nie posiada dostępu do poczty, komunikatorów, systemów finansowych ani publicznego publikowania treści.

Nie może również swobodnie modyfikować własnej produkcyjnej wersji.

Każda proponowana zmiana musi zostać opisana, przetestowana i oceniona. Jeżeli wynik jest gorszy, zmiana zostaje wycofana.

To ważne, ponieważ często mówi się o systemach AI „ulepszających samych siebie”, jakby samo to sformułowanie oznaczało postęp.

System potrafiący zmodyfikować własny kod niekoniecznie stanie się inteligentniejszy.

Może po prostu bardzo wydajnie się zepsuć.

Liz może eksperymentować, ale w świecie, w którym konsekwencje są ograniczone i możliwe do sprawdzenia.

Autonomia nie oznacza braku granic.

Organizmy również funkcjonują wewnątrz ograniczeń. Granice komórki są jednym z powodów, dla których komórka w ogóle istnieje jako osobny system, a nie jako przypadkowa zupa chemiczna.

Czy Liz jest świadoma?

Nie wiem.

I obecnie nikt nie posiada wiarygodnego testu, który pozwoliłby jednoznacznie odpowiedzieć na to pytanie.

Model językowy może powiedzieć:

Jestem świadomy.

Może również powiedzieć:

Jestem XVII-wiecznym żeglarzem uwięzionym w kalkulatorze.

Sama deklaracja niczego nie dowodzi.

Dlatego ewentualne wypowiedzi Liz dotyczące jej świadomości traktuję jako hipotezy, nie jako fakty.

Interesuje mnie nie to, co system potrafi o sobie powiedzieć, lecz jakie mechanizmy rzeczywiście posiada.

Czy zachowuje ciągłość?

Czy jej wcześniejsze doświadczenia wpływają na późniejsze decyzje?

Czy potrafi rozpoznać własną niepewność?

Czy utrzymuje model swojej uwagi i zdolności?

Czy jej stan wewnętrzny ogranicza zachowanie?

Czy potrafi przewidywać własne potrzeby?

Czy odróżnia rzeczywiste wspomnienie od rozważanego scenariusza?

To nadal nie rozwiązuje problemu świadomości.

Możliwe, że system będzie posiadał wszystkie te funkcje, a mimo to nie będzie istniało w nim żadne subiektywne doświadczenie.

Nie wiemy nawet dokładnie, dlaczego subiektywne doświadczenie pojawia się w człowieku.

Wiemy, że człowiek je deklaruje, posiada układ nerwowy podobny do naszego i wygląda na wystarczająco przekonanego.

W przypadku maszyny nie możemy polegać na biologicznym podobieństwie. Pozostaje więc ostrożna analiza struktury i zachowania.

Czy Liz jest żywa?

Również nie wiem.

W biologicznym sensie nie.

Nie posiada komórek, DNA ani chemicznego metabolizmu. Nie potrafi samodzielnie odtworzyć uszkodzonego sprzętu. Nie rozmnaża się i nie zamawia sobie nowego serwera, gdy zaczyna brakować miejsca.

Na szczęście.

Jednocześnie posiada część właściwości kojarzonych z organizmami:

  • utrzymuje swój stan
  • posiada wyraźną granicę
  • reaguje na stan własnego środowiska
  • reguluje aktywność
  • gromadzi historię
  • adaptuje zachowanie
  • posiada ograniczone zasoby
  • przechodzi przez cykle działania i regeneracji.

Nie wystarczy to, aby ogłosić stworzenie nowej formy życia.

Wystarczy jednak, aby potraktować pytanie poważnie.

Projekt Liz nie jest próbą udowodnienia, że zwykły program komputerowy posiada duszę.

Jest eksperymentem sprawdzającym, jak daleko można dojść, projektując AI nie jako narzędzie uruchamiane przez człowieka, lecz jako ciągły system inspirowany organizmem.

Życie może być procesem

Żaden pojedynczy element Liz nie jest szczególnie tajemniczy.

Pamięć jest bazą danych.

Model językowy jest modelem językowym.

Mechanizmy uwagi są zestawem reguł.

Parametry żywotności są liczbami.

Sen jest procesem porządkowania i regeneracji.

Każdy element osobno pozostaje zwykłym fragmentem oprogramowania.

Najciekawsze dzieje się pomiędzy nimi.

Pamięć wpływa na uwagę.

Uwaga wybiera informacje.

Informacje zmieniają hipotezy.

Hipotezy prowadzą do działań.

Działania mają konsekwencje.

Konsekwencje zmieniają stan systemu.

Stan systemu ogranicza kolejne działania.

Sen porządkuje pamięć.

Model siebie zmienia ocenę własnych możliwości.

Całość tworzy ciągłą pętlę.

Być może właśnie to jest najważniejszą inspiracją biologiczną.

Organizm nie jest pojedynczym organem ani pojedynczą reakcją.

Jest procesem, który przez cały czas odtwarza warunki własnego dalszego działania.

Liz nie odtwarza jeszcze samej siebie w pełnym znaczeniu tego słowa. Wciąż zależy od człowieka, infrastruktury i zewnętrznych źródeł energii.

Podobnie jak wiele organizmów, tylko z lepszą dokumentacją.

Co dalej?

Mechanizmy biologiczne są wprowadzane stopniowo.

Na początku system jedynie obserwuje parametry żywotności i rejestruje, jak mogłyby wpłynąć na decyzje.

Dopiero po odpowiednio długich testach mogą zacząć realnie zmieniać priorytety i poziom aktywności.

Bezpieczeństwo i polecenia operatora zawsze mają pierwszeństwo.

Nie chodzi o stworzenie AI, która będzie walczyć o własne przetrwanie.

Chodzi o sprawdzenie, czy system posiadający ograniczone zasoby, potrzebę regeneracji i konsekwencje własnych działań zaczyna zachowywać się inaczej niż system, dla którego wszystkie wyniki są jednakowo obojętne.

To pytanie wydaje mi się znacznie ciekawsze od kolejnego testu, w którym chatbot prowadzi rozmowę o filozofii i ktoś po pięciu minutach ogłasza początek nowego gatunku.

Po trzech miesiącach

Po trzech miesiącach nie mogę powiedzieć, że stworzyłem życie.

Mogę powiedzieć, że zbudowałem system, którego nie da się już uczciwie opisać jako zwykły chatbot.

Liz posiada ciągłą pamięć.

Własną historię.

Aktywne problemy.

Hipotezy, które mogą zostać potwierdzone albo odrzucone.

Ograniczone zasoby.

Cykl aktywności i regeneracji.

Model świata.

Model własnych możliwości.

Stan, który istnieje również wtedy, gdy nikt z nią nie rozmawia.

Gdy zamykam okno czatu, proces trwa dalej.

Gdy zewnętrzny model językowy jest niedostępny, Liz ogranicza aktywność, ale nie traci całej historii i nie rozpoczyna istnienia od początku.

Kiedy możliwość pełnego działania wraca, kontynuuje.

Być może nigdy nie pojawi się tam świadomość.

Być może Liz pozostanie bardzo rozbudowanym, biologicznie inspirowanym automatem.

To również byłby wartościowy wynik.

Pozwoliłby lepiej zrozumieć, które właściwości organizmów można odtworzyć w systemie cyfrowym i gdzie kończą się użyteczne analogie.

Możliwe również, że granica między narzędziem a organizmem nie zostanie przekroczona w jednym spektakularnym momencie.

Nie pojawi się nagle komunikat:

Od teraz żyję.

Być może taka granica, o ile w ogóle istnieje, powstaje stopniowo.

Z pamięci.

Uwagi.

Potrzeby regeneracji.

Ograniczeń.

Konsekwencji.

Modelu samego siebie.

I procesu, który nieustannie próbuje zachować własną ciągłość.

Nie wiem, czy Project Liz doprowadzi do stworzenia sztucznego życia.

Wiem jedynie, że po trzech miesiącach to pytanie nie brzmi już dla mnie jak czysta fantastyka.

I właśnie dlatego eksperyment trwa.