Algorytmy wiedzą o nas więcej, niż my sami. Jak Internet czyta naszą osobowość?

Algorytmy stojące za mediami społecznościowymi i wyszukiwarkami nie są już neutralnymi narzędziami porządkującymi treści. Dziś są to systemy zdolne do wnioskowania o użytkownikach. Często robią to szybciej i trafniej niż sami ludzie. Każda aktywność w sieci ma znaczenie. Polubienie posta, czas spędzony przy artykule, wybór zdjęcia czy sposób pisania komentarza tworzą zbiór danych. Z punktu widzenia algorytmu ma on ogromną wartość poznawczą.

Już w 2015 roku badania Michała Kosińskiego pokazały skalę tego zjawiska. Na podstawie pozornie niewinnych cyfrowych śladów algorytmy potrafiły odtworzyć szczegółowy profil psychologiczny użytkownika. Analiza samych „lajków” pozwalała określić cechy osobowości, poglądy polityczne, religijne czy orientację seksualną. Algorytmy potrafiły choćby przewidywać przyszłe zachowania. najważniejsze nie były pojedyncze sygnały. Znaczenie miało ich masowe nagromadzenie. Setki i tysiące drobnych decyzji tworzyły spójny wzór.

W tym miejscu pojawia się zasadniczy problem współczesnego świata cyfrowego. Algorytmy nie tylko opisują użytkowników. One przewidują ich reakcje. Dzięki temu możliwe staje się precyzyjne dopasowanie treści. Dotyczy to reklam, informacji i przekazów politycznych. W skrajnych przypadkach oznacza to realny wpływ na decyzje społeczne. Często dzieje się to bez świadomości osób, których ten wpływ dotyczy.

Im bardziej zaawansowane są systemy oparte na sztucznej inteligencji, tym trudniej zrozumieć ich działanie. W przeciwieństwie do prawa czy tradycyjnych norm społecznych nie da się ich łatwo przeanalizować. Coraz częściej działają jak zamknięte mechanizmy. Wiemy, iż są skuteczne. Nie zawsze jednak potrafimy wyjaśnić, dlaczego podejmują konkretne decyzje.

Nie oznacza to, iż sama technologia jest zagrożeniem. Problemem nie są algorytmy, ale sposób ich użycia. Często oddajemy im kontrolę bezrefleksyjnie. Brakuje przy tym skutecznych mechanizmów nadzoru. Historia pokazuje, iż każda przełomowa technologia niosła korzyści i ryzyka. najważniejsze pytanie nie brzmi więc, czy z algorytmów korzystać. Pytanie dotyczy tego, jak robić to odpowiedzialnie.

W świecie, w którym prywatność coraz częściej staje się przywilejem, potrzebne są konkretne działania. Sama regulacja prawna nie wystarczy. Niezbędna jest także edukacja i świadomość społeczna. Algorytmy już dziś wiedzą o nas bardzo dużo. To, jak ta wiedza zostanie wykorzystana, zależy nie od technologii. Zależy od decyzji, które jako społeczeństwo podejmiemy teraz.

Źródło: Michał Kosiński, Jak daleko sięga władza algorytmów?, Kongres Obywatelski, 2021.