Jak heurystyki w AI stają się naszymi nowymi błędami poznawczymi?

Nie da rady ciągle myśleć, analizować i przetwarzać informacje. Jeśli zastanowisz się nad tym ile czasu dziennie przeznaczasz na czyste myślenie vs. ile czasu używasz własnych "automatyzacji" odkryjesz, że nie ma tego aż tak dużo 😉 Często używamy w procesie poznawczym uproszczonych reguł i dróg na skróty, które pozwalają nam szybciej podejmować decyzje i rozwiązywać problemy - to właśnie są heurystyki. Pozwalają nam oszczędzać czas i energię umysłową, ale niestety też nierzadko prowadzą do błędów poznawczych.

AI też "myśli na skróty" - musi, bo to pozwala oszczędzać czas i pieniądze. Im bardziej systemy AI stają się skomplikowane i przypominają "czarne skrzynki", tym mocniej twórcy, użytkownicy, a nawet same modele muszą polegać na heurystykach. Poniżej spróbujemy opisać kilka z nich. Już teraz widać, jak tworzą nam się z tego kategorie zupełnie nowych błędów poznawczych...

• Heurystyki wewnątrz AI, czyli techniczne filtry i uproszczenia matematyczne, wprowadzane po to, aby system generował odpowiedzi odpowiednio szybko. Przykładem może być optymalizacja generowanego tekstu. Model nie analizuje za każdym razem wszystkich słów świata, tylko skupia się na tych najbardziej prawdopodobnych, by utrzymać naturalność i spójność wypowiedzi. 

• Heurystyki generowania i zachowania, czyli np. halucynacje jako efekt płynności. Model dąży do dokończenia zdania za wszelką cenę. Zamiast zatrzymać się z braku danych, generuje najbardziej prawdopodobne kolejne słowa, co daje złudzenie, że woli zmyślić, niż przyznać się do błędu.

• Heurystyki psychologiczne, czyli te wszystkie mechanizmy, które sprawiają, że zaczynamy wierzyć, że rozmawiamy z drugim człowiekiem, bo "model czuje empatię". Albo wierzymy, że treść jest prawdziwa, bo jest bezbłędna językowo i napisana ładnie = mądra treść = musi być prawda.

• Heurystyki decyzyjne (biznesowe & wdrożeniowe), czyli nasze uproszczenia z braku czasu na dopracowanie rozwiązań i presja wypuszczania niegotowych produktów na rynek. Zakładamy, że skoro nasz model halucynuje tylko w 7% przypadków, to spokojnie wystarczy, by wypuścić go jako asystenta programowania... w końcu programista na pewno zrobi rzetelne code review 🤫

• Heurystyki edukacyjne i społeczne, czyli uproszczenia wynikające z masowego używania AI. Przykład: "Przeczytałem cztery (wygenerowane) podsumowania, więc jestem już ekspertem w tej dziedzinie". Albo zjawisko dyskredytacji - pewnie słyszeliście już z góry zakładane: "to na pewno wygenerowało AI" (w domyśle: nie zrobiłeś/aś tego sam/a).

• Heurystyki prawne i etyczne, czyli cały obszar uproszczonych regulacji, mających na celu ochronę przed ryzykiem czy naruszeniem praw autorskich. Prawo nie potrafi ocenić każdego modelu z osobna, więc stosuje kategoryzacje. Z góry zakłada, że AI w medycynie to wysokie ryzyko, a AI grające w szachy to ryzyko znikome.

Heurystyki w dobie (R&D) AI pomagają nam szybciej zrozumieć, jak działa sztuczna inteligencja. Niestety, te skróty myślowe tworzą też błędy poznawcze, które stają się już teraz realnym problemem w wielu obszarach.

Jakie inne przykłady heurystyk powiązanych z AI dostrzegacie w swoim otoczeniu?