MI2 DataLab

Tworząc rozwiązania XAI musimy brać pod uwagę istniejące regulacje. Jedną z ważniejszych jest rozporządzenie Parlamentu Europejskiego i Rady w sprawie sztucznej inteligencji (Artificial Intelligence Act), które dąży do eliminacji zagrożeń i negatywnych konsekwencji spowodowanych używaniem sztucznej inteligencji. Co zatem należy zrobić, aby odpowiedzialnie trenować sieci neuronowe? Na co należy zwrócić uwagę, aby wytrenowana sieć neuronowa na obrazach płuc rzeczywiście miała szansę pomagać lekarzom?

Nie od dziś pracujemy nad takimi rozwiązaniami, jednym z nich jest przygotowany przez nas artykuł, który analizuje 25 prac klasyfikujących czy zdjęcie płuc przedstawia osobę chorą na COVID-19 oraz czy przy użyciu metod wyjaśnialnej sztucznej inteligencji wskazuje na istotne zmiany chorobowe. Podczas tej analizy zespół znalazł szeregów błędów popełnianych przez twórców modeli i zaproponował jak ich unikać w przyszłości.

Rezultaty tej pracy zostały przedstawione w artykule oraz serii blogów
►https://www.sciencedirect.com/science/article/pii/S0031320321002223
►https://medium.com/responsibleml/check-your-model-checklist-for-responsible-deep-learning-modeling-61a013e50451

Prowadzenie zajęć dotyczących wizualizacji danych to nie jedyne zajęcia jakimi się opiekujemy. Ważnym przedmiotem są również Warsztaty Badawcze dla 2 i 3 roku studentów kierunku Inżynieria i Analiza Danych. Są to wyjątkowe zajęcia, ponieważ studenci mogą zobaczyć jak wyglądają artykuły naukowe oraz jak wygląda świat nauki przez pryzmat konferencji i sposobu prezentacji. Nasze zajęcia są o tyle ciekawe, że to studenci mogą wybrać w jakim temacie chcą się rozwijać spośród zaproponowanych. Są one związane z naszą pracą, zatem nie braknie uczenia maszynowego, wyjaśnialnej sztucznej inteligencji, automl, deep learningu czy reprodukowalności wyników.

Studenci nie tylko poznają jak wyglądają artykułu naukowe, ale sami piszą mini artykuł na temat nad którym pracowali. Efektem finalnym jest zbiór takich artykułów w postaci książki online. Poniżej przedstawiamy linki do książek z dwóch ubiegłych edycji i już nie możemy się doczekać nowego semestru, aby znowu rozpocząć tą niezwykle ciekawą przygodę.

► 2020 https://mini-pw.github.io/2020L-WB-Book/
► 2021 https://mini-pw.github.io/2021L-WB-Book/

ML Case Studies Case studies for reproducibility, imputation, and interpretability