Reklama

Dlaczego algorytmy się mylą

Dlaczego algorytmy się mylą

15.03.2021
Czyta się kilka minut
Choć sztuczna inteligencja góruje nad nami w wielu dziedzinach, czasem łatwo przyłapać ją na banalnych błędach. Ale to właściwie nie jej wina.
Halowe Mistrzostwa Świata w Lekkoatletyce, bieg na 60 m kobiet. Sopot, 9 marca 2014 r. ALEXANDER HASSENSTEIN / GETTY IMAGES
A

Algorytmy klasyfikacyjne oparte na sieciach neuronowych – zwane czasem szumnie sztuczną inteligencją – są powszechnie stosowane w wielu dziedzinach naszego życia. ­Google Translate, wirtualni asystenci: Siri i Alexa, autonomiczne samochody – te wszystkie produkty korzystają z tej techniki. Działanie systemu opartego na takich algorytmach przebiega w dwóch fazach. W fazie pierwszej stworzony przez informatyków algorytm samodzielnie „uczy się”, przez znajdowanie korelacji wśród dostarczonych mu danych, i sam buduje pewien statystyczny model. W drugiej fazie, w oparciu o nowe dane i stworzony przez siebie model, system interpretuje nasze pytania (Siri), generuje tłumaczenie tekstu w obcym języku (Google Translate) bądź rozpoznaje pieszego na drodze (autonomiczny samochód).

Dopóki taki system działa poprawnie, nikogo nie interesuje mechanizm, na którym się opiera. Co więcej, jak...

14746

Dodaj komentarz

Chcesz czytać więcej?

Wykup dostęp »

Załóż bezpłatne konto i zaloguj się, a będziesz mógł za darmo czytać 6 tekstów miesięcznie! 

Wybierz dogodną opcję dostępu płatnego – abonament miesięczny, roczny lub płatność za pojedynczy artykuł.

Tygodnik Powszechny - weź, czytaj!

Więcej informacji: najczęściej zadawane pytania »

Usługodawca nie ponosi odpowiedzialności za treści zamieszczane przez Użytkowników w ramach komentarzy do Materiałów udostępnianych przez Usługodawcę.

Zapoznaj się z Regułami forum

Jeśli widzisz komentarz naruszający prawo lub dobre obyczaje, zgłoś go klikając w link "Zgłoś naruszenie" pod komentarzem.

Sztuczna inteligencja to bezduszny ekstrakt z przedstawionego zbioru danych. Proces ekstrakcji jest zbudowany o zimne kryterium - funkcję straty. Jak sformułujemy funkcję straty taki otrzymamy destylat z posiadanych danych.

zaś różnica pomiędzy sztuczna a naszą/ludzką inteligencją wydaje się być póki co jedynie ilościowa

No tak, z natury rzeczy swej algorytm (= skończony ciąg jasno zdefiniowanych czynności koniecznych do wykonania pewnego rodzaju zadania) nie może się mylić. Ani, po prawdzie, mieć racji. Może być tylko poprawny albo wadliwy - skutkiem błędu swego twórcy lub niepełnej wiedzy o danych, jakie będzie przetwarzać. Mówiąc o sztucznej inteligencji, mamy na myśli systemy mające sobie radzić z danymi, o jakich twórca nie wie jeszcze nic albo bardzo niewiele, albo na takim stopniu ogólności, że nie jest w stanie przewidzieć nawet w małej części stanów początkowych algorytmów składających się na ową "inteligencję". Dlatego AI musi się dopiero "uczyć", czyli nie tylko przetwarzać dane na wyniki, ale jeszcze modyfikować na tej podstawie sposób przetwarzania w przyszłości nowych danych. Innymi słowy, modyfikować swoje algorytmy, oczywiście algorytmicznie. Niestety, napotykamy tu szereg problemów, z których najprostszym i już nierozstrzygalnym jest sformułowany przez Turinga problem stopu, czyli próba uzyskania za pomocą algorytmu odpowiedzi na pytanie o skończoność innego algorytmu. A z tym akurat umysł nawet przeciętnego programisty radzi sobie całkiem nieźle (w przeciwnym razie długo się on programistą nie nabędzie). Różnica między inteligencją ludzką a "sztuczną inteligencją" w oczywisty sposób nie może być różnicą ilościową. W przeciwnym razie nieomylny z definicji algorytm, który "widział" więcej zdjęć zwierząt niż jakikolwiek człowiek, rozpoznawałby te zwierzęta bez problemu. Co innego, gdyby komputer oświadczył badaczce, że ma serdecznie dosyć jej głupich pytań o zwierzęta, bo zafascynował go efekt bokeh i o tym chce porozmawiać. ;)

że mózgowy procesor i algorytmy są póki co w niektórych [!] zakresach działania sprawniejsze i wydajniejsze od tych opartych na układach krzemowych wydaje się bezdyskusyjne - ale cóż, jeszcze niedawno nawet latanie balonem było nowością, a dziś nikt nie posądzi żadnego ptaka o zdolność dolecenia do Marsa itepe - poczekajmy, cierpliwość to zwłaszcza w przypadku oceniania osiągnięć nauki i techniki bardzo pożądana cecha, na horyzoncie komputery kwantowe, zas teza o absolutnej wyjątkowości ludzkiej inteligencji i generalnie bytu jedynie w sferze mitologicznych bajań się broni

kapkę gdzie indziej! W pewien sposób rozwiązuje go Twierdzenie Gödla o niezupełności. Zainteresowanym polecam: http://studiametodologiczne.amu.edu.pl/wp-content/uploads/2015/07/SM33-10.pdf albo http://www.austriart.pl/2018/04/kurta-godla-oblicza-filozofii/

@wojciechowski w niedziela, 21.03.2021, 21:22. Powołałem się na problem Turinga, ponieważ jest względnie łatwy do ogarnięcia bez specjalnej wiedzy matematycznej. Co innego twierdzenie Gödla, które - przynajmniej zdaniem autora pierwszego artykułu - nie tyle rozwiązuje problem, ile wskazuje, że tezy mechanicyzmu i "silnej AI" są co najmniej nieoczywiste i co najmniej tak samo trudne do udowodnienia, jak tezy przeciwne. Nawiasem mówiąc, wydaje się, że możliwość "silnej AI" nie budziła wątpliwości, kiedy zarówno komputery, jak i neurokognitywistyka dopiero raczkowały. Ten konsensus jest wciąż silny, ale na poziomie kultury popularnej, co zawdzięcza literaturze i kinu sci-fi. Natomiast na poziomie wiedzy naukowej wątpliwości rosną w miarę postępu w obu dziedzinach, co wciąż niczego nie rozstrzyga, ale przynajmniej świadczy o nieoczywistości tamtej hipotezy. Skoro jesteśmy przy mechanicystycznej, deterministycznej i "materialistycznej" wizji rzeczywistości, to wypada zauważyć, ze w jej ramach trudno mówić, że "ludzkość" czy "ludzki umysł" zdobywa czy posiada jakąś wiedzę. Jeśli sprowadzi się umysł do funkcji mózgu, czyli organu zdeterminowanego prawami biologii, a ostatecznie podstawowymi prawami fizyki, to jest jasne, że istnieją tylko konkretne umysły: Newtona, Einsteina, Gödla, Penrose'a, red. Gryza, eddiepolo itd. Mogą one wprawdzie komunikować się i wymieniać jakieś informacje, ale ostatecznie każdy skazany jest na siebie w rozumieniu świata. Sama wielość tych rozumień świadczy o tym, że roszczenia zwolenników takiej czy innej hipotezy do wyższości nad zwolennikami innych - te wszystkie "przecież każdy rozumny człowiek...", "tylko jacyś płąskoziemcy..." itp. - są absurdalne. Zwłaszcza, że najczęściej ostatecznym dowodem własnej wyższości intelektualnej okazuje się to, że ktoś w coś wierzy albo nie wierzy, czyli tak naprawdę tego nie wie. Btw, Gödel dowodził logicznie istnienia osobowego Boga (był luteraninem, ale religijny aspekt sprawy chyba mniej go interesował). Podobnie Newton. Ale innych gości dysponujących równie tęgimi głowami te argumenty nie przekonywały - i już!

System oparty na logice jest pełny wtedy, gdy każde twierdzenie zanotowane w języku tego systemu i prawdziwe w każdym modelu tego systemu jest jego tezą. Każdy niesprzeczny system aksjomatyczny zawierający arytmetykę liczb naturalnych z dodawaniem i mnożeniem JEST NIEPEŁNY, - więc istnieją zdania prawdziwe tego systemu, które nie są tezami tego systemu. Wniosek: zbiór zdań prawdziwych (arytmetyka liczb naturalnych) nie jest 'aksjomatyzowalny' i tu kluczowe w rozumieniu K.Gödel'a okazuje się, że jest tak, że jest możliwość skonstruowania zdania "A" w danym systemie, które to zdanie stwierdza o sobie, i że nie istnieje jego dowód tzn. nie jest ono tezą danego systemu. Mówiąc prościej, pojęcia prawdy nie da się wyeliminować, ani tym bardziej zastąpić pojęciem "tezy", co w języku specjalistów od metodologii nauki, czy znawców systemów aksjomatycznych znaczy tyle, że "semantyka nie jest redukowalna do syntaktyki" (problem antynomi, chociażby jak w "paradoksie kłamcy"). Gödel udowodnił, że istnieją granice możliwości aksjomatyzacji zbioru praw logiki i matematyki. W praktyce oznacza to np., że wniosek może być niefałszywy, ale nie znaczy to to samo, że jest prawdziwy, dzieje się to dlatego, że pojęcia, zdania prawdziwego i tezy systemu posiadają różne zakresy. - Tak później, korzystając z odkryć Gödel'a, to Hilbert ostatecznie pogrzebał przekonanie o nieograniczonych możliwościach metody aksjomatycznej. Maszyna jedynie poda "wynik", jest w stanie "coś potwierdzić" ale nie "poznać", więc nie orzeknie "prawdy". Żartobliwie można powiedzieć, że komputer wygrał z nami w szachy ale nie wie ani nie zrozumie co to znaczy "wygrać", nawet gdy będzie nam to wyjaśniał, że właśnie przegraliśmy z nim partię. Dlaczego tak się dzieje? Ano dlatego, że,- żeby coś sformalizować (zdefiniować), to zawsze coś musi zostać niesformalizowane (zawiera się w czymś co sformalizowane być nie może).Gödel udowodnił, że niesprzeczności systemu klasycznej matematyki nie można udowodnić w jej meta systemie! - Nie dysponujemy środkami silniejszymi niż te które dają się sformułować w systemie. Pewnych zdań prawdziwych nie da się wyprowadzić z aksjomatów, ponad to dowód ich będzie możliwy tylko po użyciu mocniejszych środków dowodowych niż te którymi one dysponują. Można postawić pytanie, czy da się skonstruować maszynę, która dorównałaby umysłowi pod względem umiejętności matematycznych? Maszyny dostarczają odpowiedzi na pytania "krok po kroku" zgodnie z wbudowanym w nie programem (algorytmem) Gödel wykazał, że istnieje problem "elementarnej teorii liczby", na który również nie wszyscy mogą udzielić odpowiedzi. Mając określony problem możemy zbudować maszynę która go rozwiąże, nie można jednak zbudować maszyny która rozwiązałaby każdy problem. Umysł ludzki zdaje się dysponować zasadniczo innymi możliwościami wykonywania operacji niż urządzenia. Perspektywa zastąpienia "człowieka" chyba jest jeszcze odległa? Co nam to wszystko po części mówi? Gödel "otworzył" jakby furtkę dla pewnego 'mistycyzmu" w nauce, podobnie dla intuicji, ale nie znaczy to, że dowód naukowy mamy zastąpić mistyczną intuicją. Dla jasności trzeba dodać, że Jego odkrycia nie dowodzą, że istnieją nieograniczone możliwości ludzkiego umysłu, z resztą i bez dowodu matematycznego chyba to wiemy? :-), dowodzą tylko tego, że działalność (funkcyjność) intelektu ludzkiego nie została i nie może zostać nigdy w pełni sformalizowana. Jednym zdaniem: nie ma światopoglądu naukowego, nie ma możliwości stworzenia czegoś takiego, dlatego mamy swój własny. Mamy też naukę (nauki) oczywiście według pewnych kryteriów, fakt one też podlegają "dewaluacji" Chyba Platon powiedział co w stylu, że wiedza, to mniemanie prawdziwe, które da się udowodnić. Jeżeli jedna osoba mówi, że jest "zimno", a druga, że jest "ciepło", to co robimy, co możemy zrobić? Według zasady niesprzeczności "dwa przeciwstawne sądy nie mogą być jednocześnie prawdziwe", co może uspokoić emocje?

@wojciechowski w wtorek, 23.03.2021, 18:07. "Jeżeli jedna osoba mówi...". To nie są zdania (sądy) w sensie logicznym i nie odnosi się do nich zasada sprzeczności. Jeden odczuwa daną temperaturę tak, drugi inaczej i mogą "prawdziwie" (t.j. szczerze) o tym informować, ale żadna taka wypowiedź nie odnosi się do intersubiektywnie weryfikowalnego stanu rzeczy.

Wystarczy ukonkretnić osoby, i zdania są logiczne. Ternin "ciepło" czy "zimno" nie są ostre, oczywiście ciepło nie jest przeciwnością zimna...ale oba zdania coś stwierdzają, jakiś "stan". Dobrze wprowadzimy zmiany, - konkretna osoba informuje nas: " tutaj jest ciepło" i druga konkretna osoba przebywająca w tych samych warunkach: "tutaj nie jest ciepło". Cała "nasza" wiedza (czy to konkretnych osób) zawiera się w sądach, albo stwierdzamy, że coś jest tak a tak, albo że tak nie jest. Opinii w danej kwestii może być tyle, ile zapytanych, i w imię tolerancji wszystkie powinienem "poszanować"(?), ponieważ każdy ma prawo do opinii. Czy to oznacza, że wszystkie mają taką samą wartość poznawczą? Co ma wspólnego "ciepło" z "zimnem"? Nic! Jedno nie wynika z drugiego, ani nie zaprzecza jego istnieniu! Przecież nie jest ciepło dlatego, że nie jest zimno, jedno to jedna jakość (stan) drugie, druga jakość, a w ogóle jest coś takiego jak zimno /ciepło? - no jest w języku potocznym, w czyimś mniemaniu, czy odczuciu, wydaje się że tak! - I co mi z tego, skoro pewnie moje mniemanie różni się od pierwszego napotkanego... Ma to w ogóle jakiś sens? A może by tak... zerknąć na higrometr, anemometr i coś tam jeszcze?

@wojciechowski w środa, 24.03.2021, 22:30. Ależ uparciuch! Do samej istoty sądu logicznego należy to, ze ma on stałą wartość logiczną, niezależną od języka i kontekstu pragmatycznego. W szczególności jego prawdziwość nie może zależeć od tego, kto takie zdanie wypowiada i w jakiej intencji. Rzecz jasna, także wypowiedzenia wieloznaczne są wykluczone. "Termometr wskazuje 10℃" jest prawdziwe, o ile ten konkretny termometr, w tym konkretnym miejscu i czasie rzeczywiście wskazuje 10℃. Jeśli A się z tym zgadza, a B nie, to tylko jeden z nich może mieć rację. Natomiast "zimno" i "ciepło" nie oznaczają żadnych "stanów rzeczy", ponieważ ich znaczenie ściśle zależy od kontekstu i pragmatyki wypowiedzi. Nawet ta sama osoba, mając na myśli temperaturę 10℃, może stwierdzić: "jest ciepło" - kiedy wybiera się na spacer bez czapki i rękawiczek, albo "jest zimno" - kiedy dzwoni ze skargą na zepsuty kaloryfer lub stoi w sierpniowy dzień na plaży. Oznacza to: "daj spokój mamo, nie zmarznę", "kiedy wreszcie przyjdzie hydraulik?", "trzeba było pojechać do Chorwacji" itp. Sądy w sensie logicznym to na pewno nie są.

Tak! Racja! Zagalopowałem się niepotrzebnie z "przykładem". Na szczęście zasada niesprzeczności, mimo, że nie dowodliwa (tak chyba twierdził K. Ajdukiewicz) nadal obowiązuje, plus jej konsekwencje.

Próbuję opisać myślenie Edzia: mercedes E klasa jest bardziej inteligentny od fiata 126P, boening 727 jest bardziej inteligentny od mercedesa E klasa, a elektrownia jądrowa w Belleville ( Francja ) jest bardziej inteligentna od elektrowni w Czernobylu. Przecież w elektrowni jądrowej mamy zadziwiające aplikacje do zarządzania i niezwykle skomplikowane systemy zabezpieczające. Za tym musi się kryć prawdziwa, krzemowa inteligencja.

© Wszelkie prawa w tym prawa autorów i wydawcy zastrzeżone. Jakiekolwiek dalsze rozpowszechnianie artykułów i innych części czasopisma bez zgody wydawcy zabronione [nota wydawnicza]. Jeśli na końcu artykułu znajduje się znak ℗, wówczas istnieje możliwość przedruku po zakupieniu licencji od Wydawcy [kontakt z Wydawcą]