Czy Policja już dostała ofertę zakupu programu do walki z pedofilią?

Sztuczna inteligencja to określenie - wytrych, sugeruje nowoczesność. A jak się sztuczną inteligencją zajmują naukowcy, to już w ogóle... Za kilka miesięcy oprogramowanie podające się w "wirtualnym świecie" za nieletnich będzie prowokowało pedofilów, co ma pomóc w ich wykrywaniu przez Policję. Nie wiem tylko, czy Policja o tym wie i czy skoro program tworzony jest przez naukowców i jeszcze ze sztuczną inteligencją, to czy w Policji ktoś będzie potrafił ocenić czy taki program Policji do czegoś się w ogóle przyda.

Gazeta Wyborcza w tekście Cerber - bat na pedofilów sugeruje sposób działania tego oprogramowania, ale wcześniej pisząc o tym, że polscy naukowcy z Sopotu stworzyli ("udało im się") oprogramowanie wykorzystujące "sztuczną inteligencję". Chociaż haczykiem na czytelników ma być walka z pedofilią (i nie wiadomo, czy Policja w ogóle wiedziała o tym oprogramowaniu przed publikacją tekstu w Wyborczej), to w tekście - pokazywane są również inne "elementy komercyjnej oferty". Ale zacznijmy od walki z pedofilią:

Niezwykle skomplikowany program wyposażony w sztuczną inteligencję i analizator języka naturalnego (jest to język używany przez nas w normalnej, nieformalnej komunikacji w przeciwieństwie do języków programistycznych, słów kluczowych czy komend programu) weźmie pod lupę rozmowy na czatach przeznaczonych dla dzieci. Może żartować, zaczepiać, droczyć się i na bieżąco opracowywać portret psychologiczny rozmówcy. Cerber, analizując zapisy rozmów, będzie wyszukiwał podejrzane zdarzenia i sentencje. Każda z takich rozmów daje dodatkowo możliwość uzupełnienia jego baz danych o nową wiedzę - slang, słowa, zwroty - a jednocześnie pomoże w tworzeniu wzorów zachowań odróżniających dzieci od dorosłych.

Czyli naukowcy napisali czat-bota po prostu. Na jednym ze spotkać Auli Polskiej wysłuchałem referatu Maćka Durzewskiego, który interesuje się (również naukowo) problematyką "sztucznej inteligencji". Nagranie z tego wystąpienia można znaleźć (dzięki Maćkowi Budzichowi, który nagrywa spotkania Auli) w internecie: Aula 18 - inteligencja a boty.

Nad projektem, który ma pomóc Policji, pracuje zespół 25 osobowy. Jak pisze Wyborcza, cytując Michała Wroczyńskiego (reprezentującego sopocką firmy Fido Intelligence), w skład zespołu wchodzą: "specjaliści od informatyki, logicy, językoznawcy i psycholodzy", a samo powstawanie oprogramowania (mamy już gotowy produkt, który można ocenić, czy dopiero będziemy mieli?) "wspomagane jest przez Ministerstwo Nauki i Szkolnictwa Wyższego oraz Wyższą Szkołę Handlu i Finansów Międzynarodowych w Warszawie". A więc jest zespół naukowców, który działa jako firma (w czasach relacji publiczno-prywatnych to nie powinno już dziwić), oprogramowanie zajmuje się analizą języka naturalnego (co samo w sobie jest trudne). Mnie jednak najbardziej niepokoi inny fragment dziennikarskiej relacji. Oto czytam:

Pełnia możliwości Cerbera wykorzystywana będzie tylko w porozumieniu z policją i w zgodzie z prawem. Jeżeli będzie taka potrzeba, system przekaże portret zachowań danego użytkownika sieci wraz z zapisami rozmów oraz logo do odpowiednich administratorów czy do policyjnej bazy danych. Może to dotyczyć nie tylko pedofilów, ale także osób używających sieci do grożenia innym internautom czy wpisujących rasistowskie komentarze na forach.

Kto zatem będzie operatorem oprogramowania? Firma (każda firma, przedsiębiorstwo działa - co naturalne - w oczekiwaniu zysku), czy też może policja? Chyba jednak operatorem będzie firma, skoro oprogramowanie będzie "wykorzystywane w porozumieniu z policją". Przy czym w porozumieniu będzie wykorzystywana "pełnia możliwości". Czyli całą reszta będzie bez porozumienia. No i jeszcze przekazywane będą raporty ("portrety") "jeśli zajdzie taka potrzeba". Zastanawiam się nad problemami prywatności, nad problemami retencji danych, ochrony danych osobowych, generalnie: praw człowieka... Rozumiem, że relacja dziennikarska rządzi się swoimi prawami i czasem trzeba puścić darmową reklamę.

W każdym razie zwracam uwagę na to, że naukowość i sztuczna inteligencja może być w tym przypadku uzasadnieniem dla uzyskania lepszej ceny, jak przyjdzie do składania oferty Policji. Mnie się skojarzyło z super ultra rewelacyjną "gadającą przeglądarką" (por. Za darmo, ale to nie ma nic wspólnego z dostępnością!, Gadająca niedostępność Krakowa)...

Proszę mnie źle nie zrozumieć - wcale mi nie zależy na tym, by pedofile biegali po Sieci i wykorzystywali małoletnich. Chodzi mi o coś innego. Chodzi o "prywatyzacje wymiaru sprawiedliwości" (por. Sąd nad prywatyzacją organów ścigania), chodzi o "Czarne skrzynki" w procesie stosowania prawa, chodzi o wykorzystywania państwa tam, gdzie państwo nie zawsze wie, że oferowane mu produkty nie koniecznie spełniają pokładane w nich nadzieje (por. Interpelacja w sprawie programu Beniamin, Powiadomienie o podejrzeniu popełnienia przestępstwa przez Ministra Edukacji..., Grodzenie Sieci pod hasłem obrony dzieci - globalna dyskusja o przyszłości, Czarna lista Beniamina, a z innej beczki proponuję dział wybory niniejszego serwisu).

Opcje przeglądania komentarzy

Wybierz sposób przeglądania komentarzy oraz kliknij "Zachowaj ustawienia", by aktywować zmiany.

Gazeta ma jakąś wyraźną

Gazweta ma jakąś wyraźną sympatię do produktów firmy
F.I.

I tu też o gadającej przeglądarce (no prawie)

Święty Graal w nowym wydaniu

Najgorsze chyba jednak jest to, że profilowanie przy pomocy tego oprogramowania będzie najprawdopodobniej traktowane jak magiczna różdżka. Tak jak w przypadku programów "Beniaminopodobnych" rodzicom wydaje się, że internet nagle stał się magicznym światem wypełnionym pluszowymi misiami, tak tutaj zupełnie nieudokumentowane heurystyki będą wskazywać pedofilów i nikt nie będzie tego weryfikował ręcznie, tylko od razu będzie wysyłać panów w czarnych mundurach i będzie można mówić o tysiącach zatrzymanych pedofilów.

Ciekawe, czy ten chatbot będzie prowokował do rozmów związanych z seksualnością żeby podbić "skuteczność" (bardzo łatwo stwierdzić, czy komuś odpowiada nowy temat, czy woli porozmawiać na inne). Było to już wcześniej wykorzystane w innym bocie do wyciągania danych osobowych.

No i do tego dochodzi nowe uosobienie wroga społeczeństwa w postaci "pedofila", które jest bezdusznie wykorzystywane do gry politycznej czy, jak w tym przypadku, zwiększania popytu na dany produkt. Brakuje jeszcze artykułów mówiących o tym, że Policja nie chce walczyć z pedofilią, bo nie kupuje antypedofilskiego produktu firmy X, sknery.

nihil novi

Taki program to nic nowego tym bardziej, że już teraz na czatach prowadzone są prowokacje policyjne. W jednym dniu potrafią się podłączyć nawet 3-4 osoby udające małolatów poniżej 15 lat i namawiające na seks oraz niegrzeczne rozmowy. Napisał do mnie także chłopak wynajęty przez policję i udający małolatkę, który twierdził, że za każdego wystawionego pedofila płacą mu 50 zł. Wystarczy chwila nieuwagi by dać się wkręcić i zostać oskarżonym o przestępstwo, którego się nie popełniło. Ponieważ sama rozmowa na tematy seksualne jest już karalna, to bardzo łatwo "złowić" ofiarę, chyba, że ktoś jest bardziej przebiegły od prowokatora i nie da się wciągnąć w nielegalną rozmowę.

Pół biedy, gdy osoba, z którą się pisze na poczatku powie że ma 14 lat, to wtedy można się od razu rozłączyć. Gorzej jest wtedy, gdy po serii "namiętnych" tekstów rozmówca.rozmówczyni (zależy kto prowokuje) powie ile ma lat i że ma mniej niż 15 lat lub udaje taką osobę co ma mniej niż 15 lat - wtedy prowokacja jest udana i trzeba się liczyć z najazdem smutnych panów o 6.00 rano. Możliwa jest też sytuacja, że osoba pisząca ma faktcznie mniej niż 15 lat, a udaje że ma 17 czy 18 i nie poda prawdziwego wieku i dojdzie też do umówienia się. Wtedy również policja będzie się cieszyć z poprawienia statystyk wykrywalności przestępstw (których de facto nie ma). Taki program jak cerber będzie kolejnym trickiem polepszającym statystyki wykrywalności, dzięki któremu zostanie uwięzionych mnóstwo "wirtualnych" pedofilów. A prawdziwi przestępcy, którzy na wolności czają się za dziećmi i wyrządzają im prawdziwą krzywdę, mogą czuć się bezkarni. Patrol policyjny na pewno nie zdąży na czas z ratunkiem bo akurat policjanci siedzą na czacie i poprawiają statystyki. Cóż, trzeba w takim razie przestać nawijać z dziewczynami z czata bo można trafić na minę i całkiem nieświadomie zostać przestępcą

Zaraz, zaraz... to

Zaraz, zaraz... to policjanci udający na czatach dzieci sami ZACZEPIAJĄ przypadkowych rozmówców, zaczynają rozmowy o seksie, namawiają na spotkanie i oprócz tego nie zawsze chętnie podają swój wiek? Do tej pory wyobrażałem sobie takie prowokacje w ten sposób, że prowokator loguje się jako osoba o nicku np. "Ania_11" i sobie spokojnie czeka, ewentualnie prowadzi rozmowy na neutralne tematy. Dopiero, kiedy jakiś zboczeniec połknie haczyk i to GŁĘBOKO tzn. znając dobrze wiek rozmówcy zacznie wypytywać o intymne sprawy, albo proponować spotkanie w celach wyraźnie seksualnych, prowokację można uznać za udaną. Owszem, prawdziwe dzieci często zachowują się nieodpowiedzialnie i prowokująco, ale sytuacja, kiedy osoby mające pilnować porządku prawnego celowo zachęcają innych do łamania prawa rozbudzając na siłę niezdrowe skłonności wydaje mi się co najmniej kontrowersyjna.

Jak poprawić statystyki...

W Wyborczej właśnie się pojawił bardzo na temat artykuł:

30-latkowi grozi nawet 12 lat więzienia za to, że uprawiał seks z 13-latką poznaną dzięki portalowi Nasza-klasa. Broni się, że był przekonany, że ma 16. Taki wiek dziewczyna podała na swoim profilu.
[...]
Agnieszka na zdjęciach wyglądała na starszą: eksponowała obfity biust, miała makijaż. Skłamała, że ma 16 lat i jest licealistką. Tak naprawdę skończyła 13 lat. Chodzi do szóstej klasy.
[...]
Wszystko wskazuje, że sprawa zakończy się aktem oskarżenia. Materiały, które zebrał prokurator, wskazują, że mężczyzna mógł domyślać się, dziewczynka nie ma skończonych 15 lat - opowiada Kazimierz Rubaszewski, rzecznik zielonogórskiej prokuratury. Zdradza, że śledczy rocznie rozpatrują kilkanaście takich spraw, a mężczyźnie grozi od 2 do 12 lat więzienia.
[...]
Zdaniem Marcina Florkowskiego, psychologa i psychiatry dziecięcego [...] może zdarzyć się, że 13-latka ma już kobiecą figurę. Można się łatwo nabrać, podobnie jak w przypadku oceny zachowania. [...] Człowiek, który się zakochuje, wierzy drugiej osobie, że jej nie oszukuje. Nie ma podstaw, by nie wierzyć, że ma skończone 16 lat. Jestem skłonny uwierzyć, że chłopak mógł nie wiedzieć, że dziewczyna ma znacznie mniej.

Może przed pierwszą randką zaglądać w legitymację? - pyta (chyba ironicznie) dziennikarz psychologa.

A może odwiedzać notariusza? - dodam od siebie...

Ciekawe, czy policjanci i prokuratorzy dostaną Złoty Wibrator od Fundacji Kidprotect...

Sztuczna inteligencja: nabyta czy wrodzona?

Sprawa ma kilka den (denek -- liczba mnoga od denko).

Kiedyś w ramach walki z klerem przytaczano taki oto przykład ,,rozszerzonej interpretacji'': Skoro w dni postne można jeść ryby, czyli mięso z istot pływających w wodzie, a bóbr w wodzie pływa --- zatem można konsumować i bobry''. Ale to były czasy słusznie uznane za niesłuszne...

Służby specjalne posiadają narzędzia pozwalające na podstawie informacji zebranych od operatorów sieci komórkowych, za pomocą specjalistycznego oprogramowania zapewne prześledzić i zobrazować drogę telefonu komórkowego. Taką informację posiada operator --- bez niej nie mógłby świadczyć usługi. Czemu nasz służby specjalne tym się pochwaliły to inna sprawa. No, ale jak ktoś cierpi na jakiś kompleks, to zawsze sobie znajdzie jakiegoś zastępczego ,,penisa''...

Żeby rozpocząć (klasycze) podsłuchiwanie klasycznej linii telefonicznej trzeba podłączyć się do kabelków. Ponieważ najlepiej robić to w ,,cantrali'' potrzebny też jest odpowiedni ,,papierek''.

Co zrobić z superczułym odbiornikiem fal radiowych, który pozwala odczytywać z dużej odległości nawet sygnały elektrycznie przesyłane z klawiatury do komputera (efektywnie podsłuchując obywatela)? Wystarczy włączyć i podsłúchiwać --- nie jest potrzebna żadna zgoda. Potrzebna jest jedynie moc obliczeniowa do odfiltrowania tych właściwych sygnałów. Nikt tu ani o danych osobowych, ani prawach obywatelskich nie wspomina, a jeżeli to rzadko, uznając za normalne, że ,,służby'' mają dostęp do takich zabawek...

Nasz problem jest w pewnym sensie banalny. Komunikacja --- nawet jeżeli przez internet, a nie telefon --- to komunikacja, choć można medium to traktować niepoważnie. I podsłuchiwać. W taki bądź inny sposób (bo to przecie ryba).

Można też zdobyć nakaz prokuratorski i poprosić o logi z serwera czatu, albo o bieżące monitorowanie wypowiedzi.

Do analizy zebranych informacji trzeba będzie i tak użyć jakiegoś oprogramowania. Dziś dokonuje się bardzo wielu analiz na podstawie publicznie dostępnych informacji (zapisanych w postaci elektronicznej). Pozwala na to forma zapisu i odpowiednie oprogramowanie.

Można się zacząć zastanawiać na czym polegała klasyczna prewencja w czasch (sprawach) nieelektronicznych? Ano nocne patrole obserwowały gdzi się świeci światło dłużej albo szarpały za klamki zaparkowanych aut (żeby sprawdzić czy są bezpieczne?). Dzielnicowy robił wywiad...

Ale fakt: skala zdobywanych w ten sposób informacji była niewielka. Dziś jest łatwiej.

I generalnie: problem polega chyba tylko na tym jak bardzo osoby mające dostęp do tych wszystkich nowoczesnych narzędzi chcą się dowartościować...

Pomijam interesujący problem bota, który swoimi wypowiedziami sprowokuje swojego interlokutora do zachowań, których nigdy nie dopuśiłby się gdyby nie określone zachowania drugiej strony. A że rzecz odbywała się na czacie dziecięcym --- mamy pedofila!

Przypomina mi się takie strasznie stare opowiedanie sf z Młodego Technika. Tytuł był ,,Ptaki czujniki'' (albo jakoś tak). A rzecz cała sprowadzała się do tego, że naukowcy wymyślili sposób wykrywania ,,zabójczch emocji''. I wyprodukowali ptaki, które swoimi działaniami miały przeciwdziałać zbrodniom. Bardzo szybko okazało się, że nie można było przeprowadzić żadnej operacji --- stan ducha chirurga był podobny do stanu ducha zabójcy: czy ,,ofiara'' przeżyje...

Nie ma chyba dobrej metody na ożenek technologii z oceną ludzkich zachowań. Z drugiej strony ocena ludzi przez ludzi jest równie niedoskonała...

I przepraszam za ten słowotok

Ciekawe czy kolejnym krokiem

Ciekawe czy kolejnym krokiem będzie tworzenie przez jakąś firmę ("w porozumieniu z Policją" oczywiście) wirtualnych wizerunków dzieci jako jeszcze jedna przynęta na pedofila realnego i wydumanego. Co skądinąd będzie zabronione zwykłemu zjadaczowi chleba...

Okiem osoby o podobnych zainteresowaniach

Problem niewątpliwie jest ciekawy, a ciekawsze jest to, że pierwszy raz o podobnym projekcie (o dokładnie takim samym przeznaczeniu) słyszało się 5 lat temu. Zastanawiam się nad samą ideą. Mianowicie czy taki bot ma za zadanie monitorować chaty, odpowiadać na zaczepki czy może inicjować rozmowę (z tym wiąże się ww. problem inicjowania niewłaściwych zachowań). Natomiast systemy przeszukujące sieć (z artykułu wynika, że też są częścią projektu) nie są niczym nowym i o ile można ustalić czy jakaś strona nie zawiera szkodliwych treści to o podsłuchiwanie przestępców jest raczej awykonalne ze względu na możliwości kryptograficzne (matematyki przeskoczyć się nie da). Skończy się zapewne na tym, iż podsłuchiwani (o ile system powstanie) będą zwykli obywatele, którzy nie zaszyfrują swojej korespondencji.

A przechodząc do sprawy sztucznej inteligencji to w artykule znalazło się wiele ciekawych sformułowań:

Niezwykle skomplikowany program wyposażony w sztuczną inteligencję i analizator języka naturalnego...

równie dobrze można powiedzieć „niezwykle skomplikowany komputer wyposażony w matematykę i monitor”;

Cerber, analizując zapisy rozmów, będzie wyszukiwał podejrzane zdarzenia i sentencje.

tutaj pojawia się przebłysk informacji jak ma działać, szukając pewnych wzorców, co jest dość prymitywne;

Może żartować, zaczepiać, droczyć się i na bieżąco opracowywać portret psychologiczny rozmówcy.

jeśli współrozmówcy nie zorientują się (a ponoć pedofile są inteligentni), że mają do czynienia z botem to oznaczało by, że przeszedł test Turinga, zatem niech twórcy biegną po nagrodę, bo z tego co wiem, to jest takowa ufundowana dla osoby, której uda się stworzyć takie rozwiązanie;

Każda z takich rozmów daje dodatkowo możliwość uzupełnienia jego baz danych o nową wiedzę - slang, słowa, zwroty - a jednocześnie pomoże w tworzeniu wzorów zachowań odróżniających dzieci od dorosłych.

tutaj dostajemy informację, że tak naprawdę baza wiedzy bota będzie tworzona ręcznie na podstawie rozmów (istnieje co prawda możliwość, że taki bot sam by się uczył co jest czym, ale musiał by mieć bagaż kulturowy (tak jak ludzie), w przeciwnym przypadku nie będzie wiedział, iż np. poprawny gramatycznie i ortograficznie tekst na chacie dla dzieci jest podejrzany)

Naukowcy i językoznawcy pracują teraz nad uzbrojeniem nowej technologii w kolejny atut - niezwykle zaawansowany system rozpoznawania mowy.

rozpoznawanie mowy (mowy nie języka), jest akurat dosyć prostym problemem (w porównaniu do rozpoznawania języka) (dosyć dawno temu powstały podobne programy dla lekarzy sądowych przeprowadzających sekcje zwłok, którzy w taki sposób archiwizowali przebieg sekcji), zwłaszcza języka polskiego, który jest językiem fonetycznym.

Koniec końców artykuł dużo szumi i miesza wiele spraw (boty, analiza korespondencji, łapanie przestępców na podstawie poszlak (inaczej tego chyba nie można nazwać kiedy prymitywny twór klasyfikuje treści)) i proponowałbym traktować go z większym dystansem.

Czy to Cerber??

Dostałem niedawna w GG od użytkownika zarejestrowanego jako dziewczynka 2000 roku urodzenia straszną historię z poleceniem przesłać dalej 15 osobom, inaczej mnie zabije. Odpisałem, że lalki woodoo nie działają. A ona zaczęła pytać ile mam lat i czy mam dziewczynę.

Może to Cerber mnie prowokuje??

Piotr VaGla Waglowski

VaGla
Piotr VaGla Waglowski - prawnik, publicysta i webmaster, autor serwisu VaGla.pl Prawo i Internet. Członek Rady ds Cyfryzacji przy Ministrze Cyfryzacji, ekspert w Departamencie Oceny Ryzyka Regulacyjnego Ministerstwa Rozwoju, felietonista miesięcznika "IT w Administracji" (wcześniej również felietonista miesięcznika "Gazeta Bankowa" i tygodnika "Wprost"). Uczestniczył w pracach Obywatelskiego Forum Legislacji, działającego przy Fundacji im. Stefana Batorego w ramach programu Odpowiedzialne Państwo. W 1995 założył pierwszą w internecie listę dyskusyjną na temat prawa w języku polskim, Członek Założyciel Internet Society Poland, pełnił funkcję Członka Zarządu ISOC Polska i Członka Rady Polskiej Izby Informatyki i Telekomunikacji. Był również Członkiem Rady Informatyzacji przy MSWiA, członkiem Zespołu ds. otwartych danych i zasobów przy Komitecie Rady Ministrów do spraw Cyfryzacji oraz Doradcą społecznym Prezesa Urzędu Komunikacji Elektronicznej ds. funkcjonowania rynku mediów w szczególności w zakresie neutralności sieci. W latach 2009-2014 Zastępca Przewodniczącego Rady Fundacji Nowoczesna Polska, w tym czasie był również Członkiem Rady Programowej Fundacji Panoptykon. Więcej >>