Bias w uczeniu maszynowym

Bias (ang. bias) w kontekście uczenia maszynowego odnosi się do systematycznych odchyleń wyników modeli od rzeczywistości, które powstają nie z powodu przypadkowego szumu, lecz z określonych przyczyn związanych z danymi, algorytmami lub procesem projektowania. Bias może prowadzić do błędnych wniosków i niesprawiedliwych decyzji, szczególnie w zastosowaniach o dużym wpływie społecznym, takich jak rozpoznawanie twarzy, systemy rekomendacyjne czy analiza ryzyka kredytowego.

Rodzaje bias

Bias danych (data bias) – wynika z nieodpowiedniego zestawu treningowego, np. z brakującej reprezentacji pewnych grup demograficznych (próbka nie jest reprezentatywna).
Bias algorytmiczny (algorithmic bias) – spowodowany przyjętymi założeniami, architekturą modelu lub metodą optymalizacji, które faworyzują pewne rozwiązania.
Bias modelu (model bias) – związany z niewystarczającą pojemnością modelu (tzw. underfitting), co skutkuje systematycznym niedopasowaniem do rzeczywistości.
Bias ludzkiego czynnika (human bias) – wprowadzany przez twórców i użytkowników systemu, np. w wyborze cech (feature engineering) lub w etykietowaniu danych (etykietowanie danych).

Niekompletne lub zniekształcone dane treningowe: jeżeli zbiór danych nie odzwierciedla pełnego spektrum przypadków, model uczy się jedynie na dostępnych przykładach, co skutkuje ograniczoną generalizacją.
Wybór niewłaściwych miar kosztu: funkcje straty i metryki oceny mogą faworyzować jedną klasę kosztem drugiej, np. dokładność w sytuacji silnie niezbalansowanych klas.
Uproszczenia modelu: stosowanie zbyt prostych modeli (np. liniowych) w obliczu złożonych zależności prowadzi do podmodelowania (underfitting).
Systematyczne błędy w etykietowaniu: ludzie, którzy oznaczają dane, mogą nieświadomie wprowadzać własne uprzedzenia (przykład: stereotypy płciowe przy etykietowaniu zdjęć).

Negatywne konsekwencje bias w uczeniu maszynowym obejmują:

Nierówności społeczne – modele mogą faworyzować jedną grupę, np. przy przyznawaniu kredytów.
Błędy systemowe – powtarzalne nieprawidłowe przewidywania w określonych warunkach.
Utrata zaufania do technologii AI w społeczeństwie.
Ryzyko prawne – możliwość naruszenia przepisów o ochronie danych i równości.

Sprawdzenie statystycznych właściwości danych pod kątem równowagi klas, dystrybucji cech demograficznych oraz rozkładów zmiennych.

Oversampling i undersampling – zmiana proporcji klas w zbiorze treningowym.
Reweighing – nadanie różnym obserwacjom różnych wag w funkcji straty.
Generowanie syntetycznych danych (SMOTE).

Wprowadzanie miar sprawiedliwości takich jak:

Wprowadzanie korekt do wyjść modelu, np. post‑processing metodami threshold adjustment lub calibration w celu zrównoważenia rezultatów.

Obszar	Przykład bias	Skutek
Rozpoznawanie twarzy	Większa liczba zdjęć osób o jasnej karnacji w zbiorze treningowym	Niższa dokładność w identyfikacji osób o ciemniejszej skórze
Kredyty	Historyczne dane dyskryminujące pewne grupy etniczne	Wykluczenie tych grup z uzyskania pożyczek
Rekrutacja	Użycie słów kluczowych preferujących tradycyjne role płciowe	Mniejsza szansa kobiet na przejście do kolejnego etapu rekrutacji

Kluczowe pozycje omawiające problem bias w uczeniu maszynowym:

Barocas, S., & Selbst, A. (2016). Big Data's Disparate Impact. Kryptologia.
Friedler, S. A., et al. (2019). Algorithmic Fairness: A Survey. Przegląd literatury.
Raji, I. D., & Buolamwini, J. (2019). Actionable Auditing of Black‑Box Models. Badania naukowe.
Zhou, B., & Liu, H. (2020). Fairness in Machine Learning: A Survey. Journal of AI Research.