Podstawa prawna blokowania stron w UE - pozamiatane na Radzie

Grafika symblizująca archiwizację materiałów video z posiedzenia Rady UEJest już po Radzie UE. Polska opowiedziała się za poparciem wniosku dot. dyrektywy Parlamentu europejskiego i Rady w sprawie zwalczania niegodziwego traktowania w celach seksualnych i wykorzystywania seksualnego dzieci oraz pornografii dziecięcej, uchylająca decyzję ramową 2004/68/WSiSW, która przewiduje m.in. blokowanie dostępu do stron internetowych zawierających pornografię dziecięcą (por. O tym, że polski rząd poprze blokowanie stron).

Pierwszy komentarz już jest na stronie Fundacji Panoptykon: Polska popiera dyrektywę otwierającą drogę do blokowania Internetu w Unii Europejskiej.

Trzeba poczekać jeszcze na udostępnienie zarchiwizowanych materiałów źródłowych, ale prawdopodobnie zostaną one udostępnione przy materiałach na temat tego punktu porządku obrad Rady ("Proposal for a Directive on combating the sexual abuse and sexual exploitation of children and child pornography, repealing Framework Decision 2004/68/JHA") na stronie Komisji: 3051st Justice and Home Affairs Council meeting - Legislative deliberations, Friday, December 3rd 2010 10:24.

Inne materiały na temat tego procesu legislacyjnego zebrałem w tekście Organizacje wzywają Premiera do zablokowania przyjęcia dyrektywy.

Tekst przyjęty przez Radę będzie podstawą dyskusji w Parlamencie Europejskim, co nastąpi na początku przyszłego roku.

Opcje przeglądania komentarzy

Wybierz sposób przeglądania komentarzy oraz kliknij "Zachowaj ustawienia", by aktywować zmiany.

i dobrze

Takie strony trzeba blokować, a przede wszystkim trzeba łapać tych co tworzą, rozprzestrzeniają pornografię dziecięcą!!
Czy blokowanie takich stron to cenzura? Jak dla mnie nie, bo te treści nie powinny się znajdować w Internecie.

Niech Pan/Pani poczyta

Niech Pan/Pani poczyta dyskusje w tematach, które omawiały wcześniejsze propozycje, m.in.:
Rejestr Stron i Usług Niedozwolonych w projekcie Ministerstwa Finansów
"Alternatywne rozwiązanie" kwestii "blokowania adresów stron internetowych"

Problemem nie jest chęć usunięcia takich treści, a to, że aby tego dokonać, należy stworzyć system, który będzie filtrował niemal cały ruch w sieci, a osoby, które trochę na sposobie działania internetu się znają i tak znajdą sposób obejścia.

Nie rozumiem dlaczego coś

Nie rozumiem dlaczego coś nie miało by być cenzurą tylko dlatego, że "te treści nie powinny się znajdować w Internecie"? Ba! To sformułowania brzmi raczej jak definicja cenzury! "Cenzurujemy te treści, bo naszym zdanie nie powinny znajdować się w internecie."

Swoją drogą pornografii dziecięcej nie zablokujecie. Ludzie się boją represji, więc nie wymieniają się poprzez normalne, "oficjalne" strony internetowe, ale w sieciach ukrytych jak Tor, czy Freenet. A tych sieci się nie da blokować, ani wykryć kto co od kogo w nich ściąga. Nie wierzycie? Zainstalujcie Tora i wejdźcie na OnionForum. Jak już się przerazicie, jeszcze raz przypomnę: ta technologia została tak zaprojektowana, by nie dało się jej blokować. Takoż przepisy zmierzające do blokowania stron internetowych i tak Tora i OnionForum, czy Freenetu nie dosięgną, no bo niby jak?

Być może istnieją zagraniczne strony oferujące pornografię dziecięcą w sieci WWW, ale wydaje mi się, że pedofile z polski nawet na nie wchodzą poprzez Tora (ze strachu przed namierzeniem), czyli tak na prawdę już w tym momencie mają gotowe narzędzie do ominięcia blokady, którą się planuje.

Dlatego ja osobiście, jakkolwiek uważam, że pewna możliwość blokowania stron powinna być, to boję się takich prób wprowadzania jej pod tego typu hasłami, bo to sugeruje, że osoba wprowadzająca nie bardzo orientuje się jak technicznie miałyby te blokady wyglądać. A co za tem nie ma pewności, czy aby nie będą zbyt restrykcyjne.

To twierdzenie nie jest do końca prawdziwe

VaGla's picture

A tych sieci się nie da blokować, ani wykryć kto co od kogo w nich ściąga.

Powyższe twierdzenie nie jest do końca prawdziwe. Pomijając takie incydenty, jak TOR i ochrona prywatności, a akcja organów ścigania przeciwko pornografii dziecięcej, policja przygląda się komunikacji via TOR, a badacze od czasu do czasu wykazują jego kolejne słabości. To, że coś jest trudne, nie znaczy, że niemożliwe.
--
[VaGla] Vigilant Android Generated for Logical Assassination

Jest to na tyle trudne, przy

Jest to na tyle trudne, przy jednoczesnym małym "zysku medialnym", że raczej nikt z tego nie zrobi tematu przewodniego swojej kampanii wyborczej. "Blokowanie Internetu" jest o wiele bardziej medialne, łatwe do wytłumaczenia potencjalnemu wyborcy, a efekty widoczne jak na dłoni. A jak tu wytłumaczyć takiemu wyborcy, że odniesiono duży sukces bo przeznaczono jakieś niebotyczne sumy i ilość pracy na rozgryzienie jakiegoś tajemniczego hokus-pokus którego używa mniej niż 5% społeczeństwa? Dlatego tego typu inicjatywy zawsze będą miały duże "szkody uboczne", bo to popularyzuje dyskusję i czyni je medialnie atrakcyjnymi.

Już nie wspominając o tym jakie wspaniałe narzędzia kontroli takie coś obiecuje. To, że kontrola nie będzie dotyczyć tych 5% niezbyt martwi, bo w końcu są pozostałe 95%!

Pojęcie "pornografii

Pojęcie "pornografii dziecięcej" w tym projekcie dyrektywy obejmuje nie tylko to, co przeciętny człowiek kojarzy z pornografią pedofilską (pornograficzne zdjęcia dzieci, tj. osób niedojrzałych płciowo), ale także:
- pornografię z udziałem osób całkowicie dojrzałych płciowo, ale w wieku poniżej 18 lat, choćby były powyżej wieku przyzwolenia na współżycie seksualne;
- pornografię z udziałem osób, które mają powyżej 18 lat, ale wyglądają jak osoby w wieku poniżej 18 lat;
- pornograficzne "realistyczne obrazy" osób w wieku poniżej 18 lat.
Przy czym jako pornografię należy tu rozumieć m. in. "zachowanie o wyraźnie seksualnym charakterze". Czy np. pocałunek jest takim zachowaniem? Bo już zdarzyło się, że sąd w Polsce uznał pocałunek za "inną czynność seksualną" - http://www.roztocze.net/newsroom.php/17769_Poca%C5%82unek_spo%C5%82ecznie_szkodliwy_.html

Podobnie jest w Polsce

Taka definicja nie odbiega od tej, którą zawiera nasz kodeks karny:

art. 202 § 4b. Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynnościach seksualnych.

Swoją drogą z czysto praktycznego punktu widzenia ciekawi mnie jak w postępowaniu sądowym (a wcześniej prokuratorskim) udowodnione zostanie spełnienie przesłanki "wizerunku małoletniego". Jakiego biegłego można powołać, żeby ocenił wiek "wytworzonego wizerunku"? Na podstawie jakich cech biegły tego dokona, stwierdzając, że "wytworzony wizerunek" to wizerunek osoby mającej lat 17 i 3/4 a nie 18 od 3 godzin?

Kwestia druga: czy pod cytowany artykuł nie będą podpadały obie ekranizacje Lolity, które przecież można zobaczyć w publicznych telewizjach?

treści pornograficzne vs czynności seksualne

art. 202 § 4b. Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynnościach seksualnych.

Tak czytam ten przepis i wychodzi mi, że "treści pornograficzne" to nie to samo co "wizerunek [..] uczestniczącego w czynnościach seksualnych".

Czyli, po wczytaniu, są dwa warunki:
1. wizerunek małoletniego w czynnościach seksualnych
2. treści pornograficzne

Być może więc furtka jest właśnie taka, że nie każdy taki wizerunek - nawiązując do np. filmów pokazywanych w TV- to "treść pornograficzna". Oczywiście nie wiem, co to konkretnie są "treści pornograficzne"...

Praktyka

VaGla's picture

Praktyka organów ścigania się już tworzy i na ten temat: Malarz "lubieżnik"?
--
[VaGla] Vigilant Android Generated for Logical Assassination

Cały myk polega na

Cały myk polega na precedensie - sposoby ominiecia tego są banalne, zaczynając od alternatywnych serwerów DNS, bo blokowanie oznacza poprostu blokadę przy DNS dostawcy neta, wystarczy to zmienić i już jest "po" blokadzie...

Ciekawe jak by to dokładnie miało wyglądać - czyżby tylko blokada domeny jak to miało miejsce w USA ostatnio przy zablokowaniu ponad 80 stron od tak?. Bo jeżeli w ten sposób to wystarczy wpisać adres ip zamiast adresu, tak jak ostatnio przez pare godzin działał wikileaks?!

Gdzie oni z tym widzą jakąkolwiek walkę, takie treści trzeba usuwać , a samych ich autorów karać i wsadzać do więzień, co ci będą chcieli i tak ominą to żadnych większych problemów...

Najgorsze z tego wszystkiego jest to co ktoś pisał na innej stronie - drogi walki z pedofilią i piractwem są takie same, problem? Piraci tworzą rozwiązania do omijania blokad, a pedofile tylko się pod to podczepią...

Dla mnie to droga kompletnie do donikąd...

Jest technicznie możliwe

Jest technicznie możliwe blokowanie stron po URL, z relatywną minimalizacją kosztów. Np.:
http://www.netclean.com/eng/?page_id=30
http://www.slideshare.net/flyingpotato/netclean-whitebox-by-practeo-presentation
Routing do adresów IP z "czarnej listy" przekierowywany jest przy pomocy BGP do "białej skrzynki", która przeprowadza analizę pakietów. W ten sposób pod danymi IP blokowane są tylko te adresy, które zawierają niepożądane treści, a nie cała zawartość serwerów. Z drugiej strony, nie cały ruch internetowy musi podlegać analizie pakietów.
Koszt wdrożenia takiego rozwiązania dla całej Polski szacuję na ok. 3 mln zł. Prawdopodobne, że "biała skrzynka" będzie stać bezpośrednio w ABW :-)

mozliwe, lecz niebezpieczne

Principle, interests, limitations and risks of hybrid filtering in order to block resources on child pornography hosted on foreign servers.

http://www.laquadrature.net/files/note-quadrature-filtrage-hybride-en.pdf

Conclussions

The installation of a hybrid filtering system, whilst it appears seductive on paper, presents a number of consequential risks and has a limited effectiveness.

The direct and indirect costs may increase with the growth in usage. Users such as publishers of child pornography can always circumvent it, and also attack it. Its implementation risks reinforcing the techniques used by pedophiles and publishers of child pornography to hide and bury their activity, so it is not found by investigators. It also presents the risk that the blacklist will leak into the public domain.

Network specialists are concerned that this technique is envisaged, in light of its obvious weaknesses and the risks it presents for the entire network. Its implementation constitutes a regression in network terms. They consider that it is irresponsible for the Government to support such a filtering technique and call on it to take responsibility in the case where it is used by a network operator.

3mln?

Skąd taka kwota i jak wyliczona?

List price takiego urządzenia jak Juniper ISG 2000 to 45 529 USD czyli około 136 587 PLN (cena ze strony rosyjskiego resellera). Urządzenie, które według producenta może obsłużyć do 4Gbps ruchu przez firewall czyli zakładając bardzo optymistycznie, że na routerze odbije się tylko 20% ruchu, a typowe "domowe" łącze to 2Mbps downlinku mamy 10240 klientów domowych obsłużonych jednym urządzeniem.

Licząc tak optymistycznie za 3mln PLN można kupić urządzenia obsługujące 224911 klientów domowych. Nie ma w tym wyliczeniu kosztów utrzymania tej infrastruktury (bezawaryjna praca 24x7), jej zasilenia, ochłodzenia, ani jej modernizacji po 5 latach. Internet to nie jest coś co można filtrować za pomocą serwera z dwiema gigabitowymi kartami sieciowymi.

Koszty nawet hybrydowego filtrowania są ogromne, a efektywność będzie znikoma (każdy, kto zechce obejść filtry, je obejdzie). Nie widzę sensu we wkładaniu pieniędzy w farmę grzejników.

3 mln

VaGla's picture

Przypominam pewne uzasadnienie ustawy (PDF) gdzie napisano m.in.:

Ponadto wejście w życie zmiany art. 180d ustawy– Prawo telekomunikacyjne skutkować będzie oszczędnościami dla budżetu sądów i prokuratury w granicach około 2-3 mln rocznie. Wynika to ze zwolnienia sądów oraz prokuratur od ponoszenia kosztów uzyskiwania od przedsiębiorców telekomunikacyjnych informacji związanych ze świadczoną przez nich usługą. Powyższe dane zostały opracowane na podstawie dotychczasowych wydatków ponoszonych przez ww. instytucje w latach 2008 – 2009.

A to nie było wszystko. Administracja publiczna sobie policzyła, że będzie musiała wydać 5 mln na własną infrastrukturę, oszczędzi sobie 2-3 mln przyjmując przepisy zwalniające siebie od ponoszenia wydatków, ale nie uwzględniono, że aby coś takiego powstało, to konieczna jest inwestycja po stronie przedsiębiorstw. Macie zrobić i nas nie interesuje, jakim kosztem to zrobicie. Byle byśmy nie płacili za korzystanie z tego, co wybudujecie, byśmy byli zadowoleni z efektu działania przyjmowanych przez nas przepisów.
--
[VaGla] Vigilant Android Generated for Logical Assassination

Jest to wyliczone na

Jest to wyliczone na podstawie cennika usługi podawanego w prezentacji, do której link podałem. Z tym, że zapomniałem podać, że jest to koszt roczny.
Przy 800000-1000000 użytkowników cena roczna za użytkownika to 0,15 CHF, czyli ok. 46 gr. Zakładając, że powyżej 1 mln użytkowników cena pozostaje ta sama, mamy dla 8,5 mln gospodarstw domowych podłączonych do Internetu w Polsce (szacunkowo - 60% z 14,3 mln) cenę 3,91 mln rocznie. Można spodziewać się, że dla >1 mln użytkowników cena będzie niższa.
Zakładam, że cena usługi jest tak skalkulowana, by inwestycja się opłaciła.
Z tego, co rozumiem, NetClean jest rozwiązaniem sprzętowym i nie opiera się na routerach Junipera. W rozwiązaniu hybrydowym nie trzeba filtrować całego ruchu w sieci. Powiedzmy, że będzie to 5% (gdzieś czytałem, że na strony z "pornografią dziecięcą" usiłuje wchodzić 1% użytkowników, powiedzmy, że na IP serwerów, gdzie są takie strony będzie wchodziło ich 5 razy więcej), przy średnim łączu 1 Mb/s na użytkownika i overbookingu 20:1 wychodzi ok. 21 Gb/s.
Oczywiście pedofile i tak będą to omijać, ale nie w tym rzecz. Chodzi o to, że jest możliwe zbudowanie takim kosztem infrastruktury pozwalającej na blokowanie dowolnych "zwykłych" stron WWW - czyli że niebezpieczeństwo jest realne.

Hybryda nie zadziała.

Slajd 23 z prezentacji: "Hardware cost and support is not included in the price". Filtrowanie będzie musiało wykorzystywać jakiś wysokowydajny sprzęt pozwalający na zaglądanie głębiej niż warstwa 3, Juniperowe ISG są oczywiście tylko przykładem.

Proszę zwrócić uwagę, że w przypadku pornografii dziecięcej mamy do czynienia z niewieloma serwerowniami, które otwarcie pozwolą na umieszczanie takich treści. Wtedy wystarczy najczęściej tradycyjny blackholing IP lub odcięcie upstreamu (vide Real Host). Oraz niewielu chętnych na ten materiał (~ 1% wg. NetClean)

W związku z poprzednimi pomysłami naszego rządu pozwalam sobie na przypuszczenia, że blokowane mają być również wszelkie "nieprzychylne" strony na wniosek urzędów, czy urzędników. Czyli np. jakiś blog (współdzielący IP z innymi) lub pojedynczy film na youtube, a nie cała "zła" serwerownia. Czyli będzie o wiele więcej szarego ruchu (idącego przez urządzenie filtrujące, bo IP się zgadza) ale ostatecznie przepuszczanego (nie można tego już cofnąć na routery, ruch musi przechodzić przez urządzenie filtrujące - np. wszystkie odwołania do youtube). W przypadku, gdyby 100% odwołań do urządzenia filtrującego byłoby ostatecznie odrzucane (użytkownik otrzymywałby prosty plik HTML), to obciążenie wyglądałoby jak na promocyjnym slajdzie nr 18.

To jest realne tylko na slajdach marketingowych. Mam nadzieję, że w okolicy polityków pojawią się jacyś eksperci, którzy to zrozumieją.

Inercja czarnej listy

Ja się tylko chciałem zapytać, kto będzie szybszy: czy czarna lista będzie aktualizowana szybciej niż pedofile będą przenosić swoje zasoby na inne serwery, czy odwrotnie?

Druga rzecz - posiadam konta na kilku serwerach WWW. Gdybym umieścił na takim koncie podkatalog a w nim pliki 13.jpg albo 12.zip itp., to w jak szybko wyszło by na jaw, że zawartość tych zasobów jest trefna? Oczywiście "na wierzchu" stała by strona o kotach, samochodach albo z fotografiami kwiatków górskich. Przy zachowaniu ostrożności przez zainteresowanych, podejrzewam, proceder mógłby trwać latami.

Wprowadzenie blokad utrudni tylko mniej lub bardziej dostęp do zasobów, o których wiemy, że są trefne. Te, o których wiedzą jedynie zainteresowani, będą dalej sobie krążyć w sieci. A wiemy również, że są zasoby trefne jak np. red watch stały miesiącami i nikt nie potrafił z nimi nic zrobić, wcale nie dlatego, że nie było technicznej możliwości ich zablokowania, tylko dlatego, że procedury trwały a faszyści skakali z serwera na serwer.
W mojej ocenie, jakby ktoś chciał utrudnić pedofilom życie, to powinien zablokować gg i czaty, oraz zamknąć budynki dworcowe. Internet jest wspaniałym polem do zabawy w kotka i myszkę, i administracyjnego pozorowania działań.

To nie ma nic wspólnego z walką z pedofilią.

To, że filtrowanie Internetu nie pomaga dzieciom już zostało ustalone. Jest to jedynie chowanie problemu pod dywan, co może nawet negatywnie wpłynąć na wykrywalność.

Projekt przepisów pozwalających pedofilom lepiej ukryć się w sieci? Świetny materiał na czarny PR.

prośba o konkretną propozycję

Proszę o info jakie konkretnie rozwiązanie proponują Panowie w przypadku gdy pornografii dziecięcej nie da się w rozsądnym czasie (czyli w ciągu ok. 4-6 godzin) usunąć? Sytuacja ta dotyczy materiałów nie tylko na serwerach azjatyckich, afrykańskich, ale i europejskich.

A proszę mi powiedzieć...

...dlaczego pornografia dziecięca ma być tak "uprzywilejowana", że trzeba ja koniecznie usunąć w ciągu 4-6 godzin, a jeżeli nie to zablokować (a czy w ogóle autor tych słów ma pojęcie, jakich technicznych środków taka blokada wymaga?).
Co np. ze stronami o charakterze faszystowskim, jak słynny już RedWatch, gdzie zachęca się do zabicia konkretnych osób, publikując ich adresy domowe? Moim osobistym zdaniem taka strona jest znacznie bardziej szkodliwa niz pornografia dziecięca. A od chyba dwóch lat nie można jej usunąc z sieci, prokuratura twierdzi że nic nie może zrobić jej autorom, ale jakoś nikt nie nawołuje do cenzurowania z tego powodu Internetu...
A druga sprawa. Proszę mi pokazać choć jedną stronę z pornografią dziecięcą na normalnym, publicznie dostępnym serwerze WWW, która nie zostałaby natychmiast zlikwidowana. Bo dopóki nie zobaczę, nie uwierzę że cos takiego istnieje. Tak jak już tu napisał ktoś z przedmówców, ponieważ ludzie rozpowszechniający takie rzeczy boją sie namierzenia przez policję, odbywa się to wszystko szyfrowanymi protokołami o strukturze uniemożliwiającej ich zablokowanie bez zablokowania przy tej okazji połowy Internetu.
Mityczne "strony z pornografią dziecięcą" są jak yeti: wszyscy o tym mówią, tylko nikt nie potrafi pokazać dowodów, że to cos istnieje...

Jestem za

Internet to takie miejsce, gdzie da się znaleźć dosłownie wszystko, nawet rzeczy, których nie chcieli byśmy nigdy znaleźć. Tylko jak to wszystko ogarnąć? Chyba żadna dyrektywa nie rozwiąże problemu.
"dlaczego pornografia dziecięca ma być tak "uprzywilejowana", że trzeba ja koniecznie usunąć w ciągu 4-6 godzin". Ano właśnie dlatego, że jakby nie było dzieci są najbardziej bezbronnymi istotami i musimy je chronić w sposób szczególny...

Chroni dzieci?

To proszę wytłumaczyć, w jaki sposób ograniczenie dostępu do plików chroni dzieci. Czy ograniczenie wymiany zdjęć zawierających dziecięcą pornografię spowoduje, że dzieci w odnośnych sytuacjach będą rzadziej fotografowane?
Czy blokowanie sieci spowoduje, że z dworców i centrów handlowych znikną panowie nagabujący dzieci w wieku gimnazjalnym?

Internet to nie jest zły pies, który gryzie, kogo zobaczy. Jeżeli ktoś siedzi na stronach porno, to prędzej czy później trafi na pornografię dziecięcą. Jeżeli ktoś szuka szczegółów na temat szczegółów kompilacji jądra linuxa, działania wtryskiwacza w silniku dCi, fotografii ManRaya albo malarstwa Hieronima Boscha, to na strony porno nie wejdzie.

Natomiast samo blokowanie pewnego rodzaju zawartości jest furtką do blokowania sieci w ogóle.

Rozszerzanie blokowania czas zacząć w Wielkiej Brytanii?

Pornografia tylko dla zalogowanych?

Ciekawi mnie, jak będzie wyglądać definicja pornografii, jaki ma być sposób blokowania (wpisy dns, inspekcja pakietów), jaki ma być sposób zgłaszania stron do blokowania.

acta

tu juz nie chodzi o piractwo i pedofilie, chodzi tez o czesci zamienne innych producentow, tansze zamienniki leków, czy chocby zamienniki tuszy do drukarek, to wszystko zniknie, o to chodzi w ACTA a malo kto to widzi...

Piotr VaGla Waglowski

VaGla
Piotr VaGla Waglowski - prawnik, publicysta i webmaster, autor serwisu VaGla.pl Prawo i Internet. Ukończył Aplikację Legislacyjną prowadzoną przez Rządowe Centrum Legislacji. Radca ministra w Departamencie Oceny Ryzyka Regulacyjnego a następnie w Departamencie Doskonalenia Regulacji Gospodarczych Ministerstwa Rozwoju. Felietonista miesięcznika "IT w Administracji" (wcześniej również felietonista miesięcznika "Gazeta Bankowa" i tygodnika "Wprost"). Uczestniczył w pracach Obywatelskiego Forum Legislacji, działającego przy Fundacji im. Stefana Batorego w ramach programu Odpowiedzialne Państwo. W 1995 założył pierwszą w internecie listę dyskusyjną na temat prawa w języku polskim, Członek Założyciel Internet Society Poland, pełnił funkcję Członka Zarządu ISOC Polska i Członka Rady Polskiej Izby Informatyki i Telekomunikacji. Był również członkiem Rady ds Cyfryzacji przy Ministrze Cyfryzacji i członkiem Rady Informatyzacji przy MSWiA, członkiem Zespołu ds. otwartych danych i zasobów przy Komitecie Rady Ministrów do spraw Cyfryzacji oraz Doradcą społecznym Prezesa Urzędu Komunikacji Elektronicznej ds. funkcjonowania rynku mediów w szczególności w zakresie neutralności sieci. W latach 2009-2014 Zastępca Przewodniczącego Rady Fundacji Nowoczesna Polska, w tym czasie był również Członkiem Rady Programowej Fundacji Panoptykon. Więcej >>