Piotr Sankowski, prezes IDEAS NCBR i profesor na Uniwersytecie Warszawskim, otrzymał czwarty grant European Research Council w swojej karierze naukowej. Jest to pierwszy raz, kiedy Polakowi udaje się to osiągnąć.
Jego zespół będzie prowadził badania z zakresu Explainable AI, czyli tłumaczenia sposobu podejmowania decyzji przez algorytmy. Stworzone przez polskich naukowców biblioteki danych będą pomagać innym twórcom w budowaniu lepiej zrozumiałych dla użytkowników rozwiązań AI i algorytmów optymalizacyjnych.
W ciągu kilku miesięcy od nagłego wzrostu popularności generatywnej sztucznej inteligencji pojawiły się w sieci zestawy promptów, czyli sprawdzonych zapytań dla modeli językowych. Dzięki zastosowaniu takich, doprecyzowanych ustawień i ich wykorzystaniu w ChatGPT czy Midjourney, pozwalają na generowanie bardziej przewidywalnych wyników. Twórcami tych promptów są zaawansowani użytkownicy, którzy próbują zgadnąć, jak działają algorytmy AI, często metodą prób i błędów.
Nie tylko końcowi użytkownicy, ale także twórcy narzędzi opartych na sztucznej inteligencji nie są w stanie przewidzieć w stu procentach, jak zadziałają te algorytmy. To, co można na chwilę obecną to zakodować klucz zapytań, które pozwalają na uzyskanie odpowiedzi i znacząco powtarzalnym charakterze.
Sztuczna inteligencja w Polsce. Co EXALT ma wnieść do udoskonalenia AI?
Piotr Sankowski i jego zespół podejmują wyzwanie wyjaśnienia działania algorytmów w ramach projektu EXplainable ALgorithmic Tools (EXALT) prowadzonego w IDEAS NCBR. Ich badania skupiają się na prostych algorytmach optymalizacyjnych, takich jak nawigacja GPS, która wyznacza najkrótszą trasę dla pojazdu, lub przypisywanie zadań pracownikom w celu zwiększenia efektywności. Stworzony zostanie dodatkowy algorytm, który będzie wyjaśniał, dlaczego dany algorytm podjął określoną decyzję. Taka informacja może być przydatna przy tworzeniu rozwiązań opartych na sztucznej inteligencji w dziedzinach takich jak medycyna, obsługa klienta, sprzedaż czy nawigacja. Jednak w jaki sposób ta informacja będzie przekazywana końcowym użytkownikom, pozostaje otwarte.
Celem grantu EXALT jest stworzenie biblioteki oprogramowania, która umożliwi tworzenie algorytmów optymalizacji kombinatorycznej, które będą bardziej zrozumiałe dla użytkowników.
Dlaczego ciągła praca nas sztuczną inteligencją jest tak ważna?
Wyjaśnialna sztuczna inteligencja jest potrzebna ze względu na rosnące obawy i wątpliwości dotyczące jej działania. Narracje mówiące, że “nawet twórcy sztucznej inteligencji jej nie rozumieją” mogą zniechęcać mniej doświadczone osoby do korzystania z niej. To z kolei może spowodować presję na decydentów, aby wprowadzić prawne ograniczenia w dziedzinie AI, zwłaszcza w kontekście prywatności danych. Sztuczna inteligencja dostarcza coraz bardziej zaawansowanych rozwiązań, które znajdują zastosowanie nie tylko w biznesie, ale również w medycynie. Dzięki narzędziom XAI udaje się już osiągnąć postępy w diagnozowaniu chorób płuc i analizie zdjęć rentgenowskich.
Sztuczna inteligencja może popełniać głupie błędy w zadaniach, które dla ludzi są oczywiste. Na przykład, w rozpoznawaniu psów i kotów na zdjęciach algorytm może zakładać, że zwierzę na dworze to pies, ponieważ statystycznie psy częściej występują na zewnątrz. Jednak świadomość, że taki mechanizm został wytworzony przez algorytm AI, pozwala go skorygować i zmniejszyć znaczenie otoczenia w rozpoznawaniu zwierząt.
Narzędzia XAI przypominają “czarną skrzynkę”, która dostarcza różne dane. Z czasem może być trudniejsza do rozwijania. Dzięki rozwiązaniom z zakresu XAI, twórcy czatbotów mogliby lepiej zrozumieć, kiedy modele językowe generują nieprawidłowe odpowiedzi i ograniczyć takie zachowania. Producenci autonomicznych pojazdów mieliby większą pewność niezawodności systemów sterujących pojazdami. Lekarze korzystający z analiz sztucznej inteligencji przy stawianiu diagnoz mieliby nie tylko rekomendację, ale także ścieżkę rozumowania, która doprowadziła do takich wniosków. Dostęp do tych informacji pozwoliłby na podejmowanie lepszych decyzji opartych na zdrowiu pacjentów.
Grant EXALT, otrzymany przez Piotra Sankowskiego, skupia się na badaniu i tworzeniu narzędzi, które pozwolą na lepsze zrozumienie działania algorytmów sztucznej inteligencji. Jest to ważny krok w rozwoju technologii AI, który może przyczynić się do większego zaufania i efektywności w jej wykorzystaniu.
