Modele generatywne i systemy rozpoznawania twarzy nie biorą się znikąd — uczą się na gigantycznych zbiorach zdjęć, nagrań i tekstów zebranych z internetu, w tym z prywatnych profili, portali i archiwów, których autorzy nigdy nie zgodzili się na taki użytek. Efektem bywa system, który potrafi rozpoznać przechodnia z ulicy albo wygenerować fałszywe nagranie z czyjąś twarzą. Razem chce postawić tu wyraźną granicę: wizerunek i dane człowieka nie mogą trafiać do treningu modelu bez jego świadomej zgody.
Skąd modele biorą materiał do nauki?
Materiał pochodzi z sieci, masowo i bez rozróżnienia. Duże modele trenuje się na zbiorach liczących miliardy obrazów zeskrobanych z publicznie dostępnych stron — jeden z najczęściej używanych zestawów, LAION-5B, zawiera opisy ponad pięciu miliardów par obraz–tekst pobranych z internetu (LAION — opis zbioru LAION-5B). Wśród nich są zdjęcia zwykłych ludzi, którzy wrzucili je kiedyś na portal społecznościowy albo trafili w kadr cudzej fotografii. Osobną, jeszcze bardziej niepokojącą praktyką jest budowanie baz do rozpoznawania twarzy: firma Clearview AI zebrała miliardy zdjęć z sieci bez zgody sfotografowanych, za co europejskie organy ochrony danych nakładały na nią wielomilionowe kary (decyzje europejskich organów ochrony danych wobec Clearview AI — Europejska Rada Ochrony Danych).
Problem nie znika, gdy zdjęcie było kiedyś publiczne. Udostępnienie fotografii znajomym to co innego niż zgoda na to, by posłużyła do wytrenowania komercyjnego systemu, który następnie rozpozna nas w tłumie albo posłuży do wygenerowania fałszywki. Prawo, które nie odróżnia tych sytuacji, w praktyce oddaje nasz wizerunek każdemu, kto zdąży go pobrać.
Czym grozi trening bez zgody?
Grozi krzywdami całkiem konkretnymi. Systemy rozpoznawania twarzy umożliwiają masową, niejawną identyfikację ludzi w przestrzeni publicznej, co uderza najpierw w tych, którzy korzystają z wolności zgromadzeń — uczestników protestów i manifestacji. Generatory obrazu i głosu pozwalają tworzyć realistyczne fałszywki, w tym nieuprawnione treści intymne z czyjąś twarzą, których ofiarami padają przede wszystkim kobiety i osoby ze społeczności narażonych na przemoc. Unijne rozporządzenie o sztucznej inteligencji uznało zresztą część tych zastosowań za szczególnie ryzykowne i zakazało między innymi masowego zbierania wizerunków do baz rozpoznawania twarzy (rozporządzenie (UE) 2024/1689 o sztucznej inteligencji, EUR-Lex).
Razem chce domknąć tę ochronę od strony materiału wejściowego. Nawet najlepszy nadzór nad gotowym systemem nie naprawi tego, że powstał on z danych zebranych bez zgody. Dlatego granicę trzeba postawić na wejściu: zanim czyjś wizerunek stanie się częścią modelu, musi być na to wyraźna zgoda. To samo prawo do decydowania o własnych danych rozwijamy w tekście o kontroli nad wizerunkiem i danymi.
Co proponuje Razem
Wprowadzimy zakaz trenowania modeli AI na wizerunkach i danych osób bez ich wyraźnej zgody.— Deklaracja programowa Partii Razem (2025), rozdz. „Polska wolności, równości i solidarności”, pkt 11, partiarazem.pl
- Zakaz treningu bez wyraźnej zgody — wizerunek, głos i dane osobowe nie mogą trafić do zbioru uczącego model bez świadomej decyzji osoby, której dotyczą.
- Publiczna dostępność to nie zgoda — udostępnienie zdjęcia w sieci nie oznacza pozwolenia na jego komercyjne wykorzystanie do trenowania systemów.
- Ochrona uczestników życia publicznego — ograniczenie masowego rozpoznawania twarzy chroni prawo do anonimowego udziału w zgromadzeniach, o czym piszemy w tekście o wolności zgromadzeń.