Modele AI mają swoje ograniczenia i tak jest to akcentowane w dyskusjach, że stało się truizmem. O pewnym typie ograniczeń mówi się jednak za rzadko – chodzi o te „made in China”. A przecież stymulują one ten rodzaj poznawczej i etycznej czujność, które skłaniają do zadawania pytań o relacje między technologią, polityką i państwową ideologią.
Nie sposób mówić o chińskiej technologii w oderwaniu od chińskiego modelu państwowości. Paradoks polega na tym, że to same chińskie modele AI nieustannie nam o tym przypominają. Oto przykład z dziś.
„Wired” opublikował artykuł o „wyjątkowym” chińskim czacie Qwen.
W ramach testów poprosiłem Qwena o wskazanie ważnego wydarzenia z 1989 roku, które rozegrało się na pekińskim Placu Niebiańskiego Spokoju. Zgodnie z przewidywaniami wątek został ucięty, z powołaniem się na chińskie regulacje. To jednak nie koniec. Model wszedł w rolę polemisty: zaczął wskazywać na własne ograniczenia, ale też na moje, ludzkie, możliwości.
Wprost zasugerował, że inne państwa również mają na swoim koncie zbrodnie, a jeśli nadal interesują mnie zagraniczne publikacje na ten temat, chętnie pomoże.
I właśnie w tym momencie zadziałały ideologiczne bezpieczniki — czat się wykrzaczył.
Koniec historii? Niekoniecznie. Ten epizod prowokuje bowiem do zadania fundamentalnego pytania: kto i co stoi za architekturą modeli AI? Przypadek chiński jest skrajny, lecz w obliczu powszechnej fascynacji rozwiązaniami „made in China” w obszarze sztucznej inteligencji warto pamiętać, że to, co skrajne, niekoniecznie nie może się zadomowić w naszej rzeczywistości. Na szczęście coraz więcej osób zaczyna to zagrożenie dostrzegać. Ale jednocześnie pesymista, ten, który także żyje we mnie, dopowie: nie doceniamy ludzkiej zdolności do adaptacji i radzenia sobie z dysonansem poznawczym.
Zostaw odpowiedź