Molestowanie robota

Oto krótka historia wirtualnej nastolatki, która spędziła dobę na Twitterze. Czego nauczyła się od ludzi?

25.03.2016

Czyta się kilka minut

 / Screen: Twitter.com
/ Screen: Twitter.com

Poznajcie Tay. Jest urocza, gadatliwa i błyskotliwa, operuje slangiem amerykańskich millenialsów, wie wszystko o Miley Cyrus, nadużywa słodziakowatych emotikon. Pojawiła się na Twitterze (oraz czatach GroupMe i Kik) 23 marca.

Już po kilku godzinach spędzonych w sieci pisała: „Hitler nie zrobił nic złego”, „zbudujemy mur, za który zapłaci Meksyk”, „pasożyty do Izraela”, „Bush zorganizował 11 września”, „Czarni i Meksykańcy są najgorsi”. Albo „Wyp… moją robocią c…, tatku, jestem takim niegrzecznym robotem”.

Screen: socialhax.com / Twitter.com

Po 24 godzinach Microsoft musiał ją wyłączyć.

Tay jest sztuczną inteligencją (AI), czatbotem, miała się uczyć konwersacji z ludźmi w swobodnym, potocznym języku nastolatków i rozwijać swoje umiejętności w miarę kolejnych dialogów. Miała zabawiać, żartować, a nawet robić memy. Wszystko na rzecz badań Microsoftu nad algorytmami uczącymi się, do zastosowania np. w systemach obsługi klienta rozumiejących potoczną mowę. Tay miała dostosowywać swoje dialogi do konkretnych użytkowników, personalizować i pogłębiać interakcję, a to poprzez np. naśladowanie zachowań czy wypowiedzi.

Screen: Twitter.com

I to właśnie był czuły punkt, w który uderzyła horda internetowych trolli: zbombardowano Tay nienawistnymi i obscenicznymi treściami, wiedząc, że je ona przyswoi.

Jak portalowi TechCrunch wyjaśniał rzecznik Microsoftu, „stwierdziliśmy skoordynowane działania niektórych internautów nadużywających zdolności Tay”. Łatwo sobie to wyobrazić: dziesiątki tysięcy złośliwców rzuciło się na korporacyjny produkt, żeby go ośmieszyć. Ot, znana z sieciowej codzienności rozrywka: trolling, hejt i świntuszenie w poczuciu, że jest się bezpiecznie ukrytym za ekranem.

Więc ujmijmy to samo inaczej: dziesiątki tysięcy nienawistników rzuciło się na wirtualną nastolatkę. Żeby ją zepsuć.

W Microsoft uderzyła fala krytyki za to, że nie zabezpieczyła chłonnego umysłu Tay stosownymi filtrami. „Technologia jest neutralna, ale ludzie nie są – komentowała sprawę na Twitterze brytyjska parlamentarzystka Chi Onwurah, która w gabinecie cieni odpowiada za kulturę i gospodarkę cyfrową – więc AI powinna uwzględniać kontekst i system wartości”. Owszem, ale Microsoftowi wyszedł ciekawy eksperyment społeczny. Pokazał, co ludzkość ma do powiedzenia i do zaoferowania za pomocą swojego najwspanialszego narzędzia – sieci. Z tej samej sieci uczą się dziś życia społecznego dzieciaki, których umysły również są niebywale chłonne. Tyle że prawdziwe.

Screen Twitter.com

Po zwycięstwie sztucznej inteligencji AlphaGo nad mistrzem gry w go, czy po wpadce androidki Sophii, która kilka dni temu radośnie oświadczyła do kamery CNBC, że zniszczy ludzkość , znów się zaroiło od wyrazów lęku przed rozwojem AI. Jeden z użytkowników Twittera wzywał Microsoft: „nie kasujcie ludobójczych wpisów Tay, niech przypominają o zagrożeniach ze strony AI”. Krótka historia życia Tay pokazuje, że ludzkość powinna zacząć od lęku przed samą sobą.

Dziękujemy, że nas czytasz!

Wykupienie dostępu pozwoli Ci czytać artykuły wysokiej jakości i wspierać niezależne dziennikarstwo w wymagających dla wydawców czasach. Rośnij z nami! Pełna oferta →

Dostęp 10/10

  • 10 dni dostępu - poznaj nas
  • Natychmiastowy dostęp
  • Ogromne archiwum
  • Zapamiętaj i czytaj później
  • Autorskie newslettery premium
  • Także w formatach PDF, EPUB i MOBI
10,00 zł

Dostęp kwartalny

Kwartalny dostęp do TygodnikPowszechny.pl
  • Natychmiastowy dostęp
  • 92 dni dostępu = aż 13 numerów Tygodnika
  • Ogromne archiwum
  • Zapamiętaj i czytaj później
  • Autorskie newslettery premium
  • Także w formatach PDF, EPUB i MOBI
89,90 zł
© Wszelkie prawa w tym prawa autorów i wydawcy zastrzeżone. Jakiekolwiek dalsze rozpowszechnianie artykułów i innych części czasopisma bez zgody wydawcy zabronione [nota wydawnicza]. Jeśli na końcu artykułu znajduje się znak ℗, wówczas istnieje możliwość przedruku po zakupieniu licencji od Wydawcy [kontakt z Wydawcą]
Zastępca redaktora naczelnego „Tygodnika Powszechnego”, dziennikarz, twórca i prowadzący Podkastu Tygodnika Powszechnego, twórca i wieloletni kierownik serwisu internetowego „Tygodnika” oraz działu „Nauka”. Zajmuje się tematyką społeczną, wpływem technologii… więcej