Ale spokojnie, nie naprawdę to tylko algorytmy, a biedna Gal dowiedziała się po fakcie

Ale efekt jest całkiem całkiem :



To trochę przerażające, ale zdaje się że jest tego więcej.


Autor przeróbki, kryjący się pod pseudonimem deepfakes, przyznał, że wykorzystał wiele bibliotek dostępnych jako otwarte oprogramowanie, a informacje na temat twarzy Gal Gadot stworzona sztuczna inteligencja czerpała z wyszukiwań obrazów na Google, zdjęć agencyjnych oraz filmów opublikowanych w serwisie YouTube.

Mnie zastanawia, co ona wyciaga z tego pudla? Bo latarka to chyba nie jest?

:somsiad To nowoczesny młynek do kawy.

To przecież maszynka ssąco-ciupciająca. Kolega mówił...

Trochę? Całkiem mocno przerażające.

Ostatnio w MonsterTV był film o chłopaku którego stalker zakładał profile na serwisach gejowskich na dane ofiary, chłopak dostawał masę anonsów pokroju "jesteś ciasny"? Pomyślcie co takie świry mogą robić w niedalekiej przyszłości z taką technologią gdy stanie się ona bardziej dostępna a posługiwać się tym będzie mógł każdy jełop który potrafi obsługiwać mysz i klawiaturę.

:tomcat_tc tak teoretycznie, powiedzmy że ktoś zrobi tak z koleżanką z klasy i puści materiał na szkolnej grupie na FB lub publicnzie, co mu grozi i z jakich paragrafów bo się zastanawiam?

:maciek_cherokee
Zniesławienie? Coś w tym kierunku. I może pomówienia, czy jak to tam się nazywa.

:mojs a powiedzmy że niepełnoletnia koleżanka, to czy można by to podciągnąć pod rozpowszechnianie materiałów pornograficznych z udziałem nieletnich?
Niby tylko twarz nieletnia, a nie całość.

Pytanie, kto odpowiada za coś, co zrobiło AI? Człowiek, czy algorytm? ML budzi sporo kontrowersji, a to na gifie to tylko ułamek z tego, co da się już zrobić ( rekonstrukcje obrazu, czy np. zbudowanie obiektów 3D tylko ze zdjęć to "big thing" w ML. Maszyny nawet uczą się jak renderować, by wyglądało jak najbardziej rzeczywiście i są w tym dosyć dobre. Całe szczęście AI potrzebuje dużo danych na których się uczy i przeciętny Kowalski raczej na to sobie pozwolić nie może. Proces uczenia trwa długo, jest zasobożęrny i potrzebny jest człowiek ( choć nie zawsze, można wykorzystać GAN, ale ma to swoje ograniczenia... jeszcze... ).

:salival głupie pytanie. A jak zrzucisz cegłę z wieżowca i ona komuś spadnie na łeb i go zabije - to odpowiadasz za to Ty, czy Newton ze swoim prawem powszechnego ciążenia?

:maciek_cherokee ciekawe zagadnienie. Na wstępie zaznaczę tylko, że nie jestem karnistą, oni mogą wiedzieć coś więcej z racji zdecydowanie większej styczności z orzecznictwem.

Niby w Kodeksie Karnym znajduje się artykuł 191a który reguluje utrwalanie wizreunku nagiej osoby, jednak wg mnie nie do końca znaduje on tu zastosowanie (gdyż ciało na zdjęciu nie należy do poszkodowanego, i osoba popełniająca czyn nie utrwaliła go osobiście). Prędzej art 190a § czyli naruszenie prywatności, jednak czyn ten zagrożony jest niższą karą, i dochodzi sformułowanie "uporczywe nękanie", co może nie zawsze mieć zastosowanie, np w opisanym przez Ciebie przypadku.

Trzeba by stosować wykładnię, najszybciej per analogiam i próbować podciągnąć to pod 191a. Z drugiej strony, jakbym miał bronić takiej osoby....(tam gdzie 2 prawników tam 4 opinie, więc dróg może być parę).

Popołudniu poczytam więcej, może jest już coś w orzecznictwie na ten temat. Sprawa ciekawa, pokazuje jak prawo nie nadąża za technologią i możliwościami jakie daje.

:gen_italia no widzisz? nie takie głupie to pytanie

:gen_italia cegła nie jest autonomiczna, program w pewnym stopniu może być niezależny od twórcy, choć nadal to tylko linijki kodu.
Teoretycznie odpowiada użytkownik programu, ale są już samouczące się AI i wtedy odpowiedzialność może się rozmyć.
Bo powiedzmy stworzymy program do tworzenia grafiki które mają zdobywać lajki na JM.
Najpierw będą to kotki i pieski, chwile póżniej program nauczy się że najwięcej zdobędzie pokazując cycki i będzie dryfował w stronę pornografii, kto ma być winien, twórca czy dający lajki?

:salival twoje akurat było głupie. :tomcat_tc zastanawia się nad tym jaką odpowiedzialność może ponieść sprawca, bo kto jest tym sprawcą raczej nie ma wątpliwości. Myślę, że sąd postępowałby tutaj podobnie, jak w przypadku np. obraźliwych fotoszopek, czy nawet rysunków - bo tylko medium jest inne, a samo naruszenie mniej-więcej takie samo.

:gen_italia tylko że z fotoszopek ofiara ma szansę się wybronić argumentami przed znajomymi czy rodziną.
Teraz wyobraź sobie sytuację dziewczyny która padła ofiarą takiej manipulacji i film krąży po sieci i jak ona ma wytłumaczyć przyszłemu pracodawcy że nie jest pornogwiazdką jak gość nie zna nawet potęgi photoshopa, a podmienianie twarzy w filmach to domena potężnych firm od efektów specjalnych a nie kilka godzin roboty dla nastolatka z mocniejszym domowym sprzętem.

Zupełnie inna skala problemu.

:tomcat_tc
Rozwinie się specka zajmująca się tworzeniem autonomicznych crawlerów orajacych sieć w poszukiwaniu twoich danych i w miarę możliwości zżerających/usuwających je. Zabezpieczenie tożsamości, prywatności, PR w sieci.

:maciek_cherokee
Oskar za reżyserię

:maciek_cherokee póki algorytm nie będzie produkował treści, które naruszają czyjeś dobra czy w inny sposób łamią prawo, to nie ma w ogóle mowy o odpowiedzialności karnej (bo pornografia jako taka nie jest u nas zabroniona - jeszcze ). A jak do naruszenia dojdzie - to w końcu ktoś ten algorytm puścił w ruch i to ten ktoś odpowiada za to, żeby jego działania nikomu nie wyrządziły krzywdy. Inna sprawa - czy da się tę odpowiedzialność wyegzekwować.
Poza tym Ty idziesz trochę dalej w swoich rozważaniach (że celem są okejki, a tylko po drodze coś tam się dziwnego porobiło); póki co celem samym w sobie jest zamiana twarzy aktorki porno na twarz konkretnej osoby. Od dawna można coś takiego zrobić w fotoszopie z obrazkiem, a teraz pojawiły się w miarę łatwo dostępne środki, żeby uzyskać podobny efekt w filmie - konsekwencje pod względem prawnym, myślę, podobne i problem z "wyprostowaniem" tego przez ofiarę również. Dlaczego niby z filmiku trudniej ma się być ofierze wytłumaczyć niż z obrazka?

Gdyby przyjąć, że sprawca nie może odpowiadać za działania algorytmu, bo nie ma na nie wpływu, to tworzyłoby dość niebezpieczny precedens - bo można argumentować, że jak rzucisz tę cegłę z dachu, to też nie bardzo możesz wpłynąć na jej lot, jak już leci w dół.

Skutkiem będzie rozrost branży, bo każdy będzie mógł się tłumaczyć, że to tylko algorytm

Ale podzielam argumentację gen_Italii, to analogiczne do pikczera - w razie przeróbki nikt nie skarży producenta photoshopa tylko tego kto go użył w niecnych celach. Nawet jeżeli ktoś udostępni generator na zasadzie - wybierz osobę i dołącz do filmu to nadal pozostaje w granicach prawa. Dopiero publikacja narażałaby na konsekwencje karne a tej dokonać musiałby użytkownik takiego generatora. Trochę straszne, ale koniec końców już się dzieje - fotoszop jest jedynie mniej spektakularny

:gen_italia to nie są takie proste algorytmy. Ktoś musi je nauczyć. Bez tego algorytm absolutnie nic nie jest w stanie zrobić. Proces uczenia jest najważniejszy. Trwają prace nad wyeliminowaniem z tego procesu człowieka gdzie tylko się da. Już w tej chwili sieci GAN działają właśnie na tej zasadzie ( choć rezultaty jeszcze dalekie od doskonałych są ). Polega to na tym, że masz dwa AI. W skrócie jeden generuje obraz, a drugi mówi czy jest wystarczająco dobry ( tu - realistyczny ) i taka pętla powtarza się. W ten sposób generator i dyskryminator uczą się. Jest to tzw. "unsupervised machine learning". To ten moment, gdy nieszkodliwy algorytm może wyciągnąć szkodliwe wnioski. Owszem, zapewne odpowiedzialność spadnie na osobę, która uruchomiła proces uczenia się. Pół biedy, jeśli osoba ta musi uczyć AI ( supervised machine learning ). Wówczas jak nauczyciel - odpowiedzialność jest dosyć jasna. Ale ML może być również rozproszone, kto wtedy odpowiada z poczynania AI? GAN najlepiej działa właśnie w taki sposób. Może zaprząc google do pracy i nauczyć się wyszukiwać obrazy wspierające naukę i jednocześnie odrzucając te dające niezadawalające rezultaty. GAN i podobne "niesuperwajzowane" rozwiązania z dostępem do sieci dają nieco do myślenia Na razie moje pytanie jest głupie, ale jak powstanie GAN, który będzie tworzył sam nowe AI. Coś jak deep shading, który tworzy kod shaderów ucząc się ze zdjęć rezultatów, jakie chcemy uzyskać. To na razie początki, ale jeśli AI umie stworzyć program shadera, to z pewnością może stworzyć inne rozwiązania. Całe szczęście potrzebne na to są ogromne zasoby mocy i pamięci, więc na razie jedynie wielkie korpo mogą sobie pozwolić na próby wykorzystania AI do pewnych zadań. Pytanie głupie do czasu

... i tak to właśnie było wysoki sądzie. Te jebane algoryty same stworzyły film porno z moją koleżanką z pracy i rozesłały wszystkim znajomym!

:nevya wiesz, problem w tym, że jak tak się będziesz tłumaczył, to "wysokim sądem" też już będzie algorytm Wyginiemy jak nic

:salival algorytm, bez względu na to jak bardzo będzie zaawansowany i autonomiczny, sam z siebie nie wstawi do pornola twarzy konkretnej koleżanki z pracy czy znanej aktorki - ktoś musi "kazać" mu to zrobić; to człowiek musi wybrać konkretną ofiarę. W jaki dokładnie sposób to wstawianie się odbywa - choć oczywiście jest to bardzo ciekawy temat - nie ma większego znaczenia z punktu widzenia prawa.
Nawet więcej: samo stworzenie takiego filmu trudno będzie uznać za przestępstwo - choćby dlatego, że jeśli nie zostanie on opublikowany, to nikt się o tym fakcie nie dowie. I znów - bez decyzji człowieka taki film opublikowany nie zostanie; więc zawsze w którymś miejscu decyzję (która będzie skutkować ewentualną odpowiedzialnością karną) musi podjąć jakaś konkretna osoba. Więc, wracając do twojego pytania postawionego na początku - odpowiadać zawsze będzie człowiek, który takie treści rozpowszechnia. W to w jaki sposób one powstały ma niewielkie znaczenie.
Tak już abstrahując od tematu - programu komputerowego, nawet superzaawansowanego i autonomicznego, nie można przecież postawić przed sądem i jeszcze długo się taki stan rzeczy nie zmieni. Można ewentualnie jego twórców czy użytkowników. Prawdziwa sztuczna inteligencja póki co nie istnieje.

moim zdaniem to jest pytanie z kategorii - kto ma pójść do więzienia, gdy autonomiczny pojazd kogoś rozjedzie.
- Właściciel pojazdu (i to będzie najprawdopodobniejsze, bo prawie na pewno dostanie do podpisania papiery zwalniające wszystkich innych z odpowiedzialności za czyny swojej własności)
- osoba określająca priorytety dla AI
- programista tworzący oprogramowanie AI
- właściciel firmy

oraz z drugiej kategorii - czemu stworzenie 100% animowanego porno dla pedofili to przestępstwo, skoro przy tym nikomu nie dzieje się krzywda?

:wisz-nu - a jak właścicielem pojazdu jest firma leasingowa albo korporacja taksówkarska?

:gen_italia
A jeśli twórca programu który dopasowuje twarz wybranej osoby (dla uproszczenia ja wybieram koleżankę z pracy) będzie miał w sobie zaimplementowanego backdoora przez jakiegoś wirusa który umieszcza tworzone przeze mnie filmy automatycznie na serwerach jakichś stron porno? Albo podsyla na fb? Ja jestem winny bo dopasowalem koleżankę, czy twórca który stworzył program, czy twórca wirusa który zhackowal program?

:mojs
Mówisz o AI piszącej soft do dopasowywania twarzy czy raczej o fizycznym wirusie, który w RNA ma sekwencję uruchamiającą w mózgu człowieka tworzenie neuonów, które wpływają na tworzenie kodu przez człowieka (krótko mówiąc uruchamiają tryb "zombie")?
Pal lichio wirusa - na mózg można wpłynąć polem magnetycznym oraz dźwiękami i w ten sposób będzie pewnie można zapisać na nim komendę do wykonania przez ciało. Pies Pawłowa.

:jez_z_lasu
Chodzi mi o "wirusa komputerowego" - skrót. Malware, soft, skrypt, jak zwał, tak zwał... Coś, co w programie do podmiany twarzy stworzy coś w rodzaju dziury, którą upublicznione np. na fb zostanie film z koleżanką.

fakt zapomniałem rozdzielić funkcję "kierowcy" (nadzorcy pojazdu?) i właściciela. Dzięki za spostrzeżenie

Edyta:
A rozumiem, chodzi o to, ze pojazdy autonomiczne mogą należeć do firmy a niekoniecznie do kogoś osobowego i być w pełni samodzielne...
No wlasnie, wówczas odpowiedzialność rozmywa się zupełnie...

Edyta 2:
Chyba ze na tym poziomie samodzielności roboty będą miały już własną osobowość prawną...

:wisz-nu jak ukarać robota posiadającego osobowość prawną?
Więzienie? Wyłączyć nie możesz bo to jak kara śmierci.
Serio? Jak ukarać androida/maszynę za przestępstwo?