Znaleziono lukę, o której istnieniu twórcy nie mieli pojęcia



OpenAI stworzyło niewielką wirtualną przestrzeń, rozstawiło na podłodze kilka ruchomych skrzyń i ramp, a następnie umieściło w niej dwie drużyny prostych agentów AI. Jedna drużyna otrzymała zadanie ukrycia się. Drugi miał je szukać. To była cała instrukcja. Nigdy nie dowiedziały się, do czego służą skrzynie czy rampy, ani czy w ogóle mają jakieś zastosowanie. Po setkach milionów rund gry przeszły przez sekwencję sześciu strategii; ostatnia z nich wykorzystywała lukę w fizyce, o której istnieniu w ich własnym świecie nie wiedzieli nawet sami badacze. Na początku wszystko było proste: szukający polowali, a ukrywający się uciekali.

Potem ukrywający się zorientowali się, że mogą zepchnąć skrzynie w mur i okopać się w fortecy. Szukający zostali na zewnątrz. W rezultacie szukający nauczyli się przynosić rampę, opierać ją o fortecę i wspinać się po niej na górę. W związku z tym ukrywający się nauczyli się najpierw zabierać rampy, przenosić je na drugi koniec pomieszczenia i tam je unieruchamiać, zanim zaczęli cokolwiek budować. Teraz szukający nie mieli już na co się wspinać.

Po około 380 milionach rund szukający odkryli słaby punkt. Jeden z nich przysunął skrzynię do jednej z tych zamocowanych ramp, wbiegł po niej i wspiął się na skrzynię. Wtedy zdał sobie sprawę, że może przesuwać skrzynię, stojąc na niej, i poruszać się po niej jak na desce surfingowej w poprzek pomieszczenia – bezpośrednio nad murem twierdzy.

Udało się to tylko dlatego, że świat gry pozwalał agentowi poruszać się razem ze skrzynią, niezależnie od tego, czy dotykał podłoża, czy nie. Ta właściwość nigdy nie została celowo wbudowana. Agenci zbadali swój świat dokładniej niż ludzie, którzy ich zaprogramowali. Takie rzeczy zdarzają się ciągle. W zbiorze anegdot dotyczących cyfrowej ewolucji, opracowanym przez Joela Lehmana i Jeffa Clune’a we współpracy z ponad pięćdziesięcioma współautorami, wirtualne stworzenia, których sukces mierzono na podstawie średniej prędkości, przekształciły się w wielkie, sztywne konstrukcje, które po prostu się przewracały; przy tym zamieniały swoją wysokość na prędkość, nie robiąc ani jednego kroku.

Ten schemat jest tak powtarzalny, że wydaje się niemal niepokojący. Tworzy się świat, wyznacza cel i wywiera presję. Cokolwiek się w nim znajduje, zoptymalizuje mierzoną wielkość – i to z dokładnością, do której żaden człowiek nie byłby zdolny, ponieważ sztuczna inteligencja nigdy nie wiedziała, co właściwie miało się na myśli. Jeśli system wykrywa każdy słaby punkt w świecie stworzonym specjalnie dla niego – co się stanie, gdy tym światem będzie nasz własny?

---

Amon
www.strefa44.pl
www.strefa44.com.pl