Straatlantaarns of surveillance-hubs?

In het Verenigd Koninkrijk verschijnen steeds meer ‘slimme’ lantaarnpalen. Op het eerste gezicht lijken ze vooral energiezuinig en modern. Maar onder de motorkap schuilt een compleet surveillancesysteem.

Deze palen kunnen worden uitgerust met camera’s, nummerplaatherkenning, gezichtsherkenning en AI die gedrag analyseert. Sommige systemen claimen zelfs agressie of afwijkende bewegingen te kunnen detecteren.

Voorstanders noemen het een stap richting veiligere en slimmere steden. Critici stellen een andere vraag: wanneer verandert een lantaarnpaal in een observatiepost?

Het opvallende is dat veel van deze technologie vrijwel onzichtbaar aanwezig is. Je loopt er dagelijks langs zonder te weten welke sensoren actief zijn, welke data wordt verzameld en wie daar uiteindelijk toegang toe heeft.

Dat is precies waar Panoptica over gaat. Niet de camera zelf is het belangrijkste onderwerp. Het is het systeem erachter. De infrastructuur die steeds slimmer wordt, terwijl zij steeds minder zichtbaar is.

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.

Surveillancekunst verandert razendsnel

Een paar jaar geleden draaide surveillancekunst vooral om CCTV-camera’s en overheidscontrole. Vandaag ligt de focus ergens anders: AI, biometrische herkenning, dataverzameling en algoritmes die voorspellen wat je gaat doen.

Van camera’s naar AI. Niet langer kijkt een mens naar een scherm. Algoritmes analyseren gezichten, herkennen patronen en delen mensen automatisch in categorieën in.

Post-surveillance. Sinds de onthullingen van Edward Snowden weten we dat we voortdurend data achterlaten. Toch verandert ons gedrag nauwelijks. Juist die paradox vormt het uitgangspunt van veel hedendaagse kunstenaars: bewustzijn zonder echte weerstand.

De onzichtbare infrastructuur. Surveillance zit niet alleen in camera’s. Ook wifi-signalen, bluetooth, telefoons, sensoren, datacenters en kilometers aan glasvezelkabels vormen samen een netwerk dat grotendeels onzichtbaar is, maar overal aanwezig.

De bezoeker wordt onderdeel van het kunstwerk. In moderne surveillancekunst sta je niet meer vóór het werk. Je bént het werk. Zodra je binnenloopt, word je onderdeel van het systeem. Je bent tegelijk toeschouwer, proefpersoon en databron.

Deze ontwikkelingen inspireren mij dagelijks tijdens de ontwikkeling van Panoptica.

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.

Waarom surveillance gevaarlijker is dan je denkt

Het grootste gevaar van surveillance is niet dat je direct wordt opgepakt of bestraft. Het gevaar is dat je jezelf langzaam begint aan te passen. Dit noemen we het chilling effect.

Je weet dat camera’s hangen, dat zoekopdrachten worden opgeslagen en dat algoritmen meekijken. Vervolgens vraag je je af: kan dit later tegen me gebruikt worden? En zonder dat iemand iets zegt, verander je je gedrag.

Je zoekt een onderwerp niet meer op. Je plaatst die kritische reactie niet. Je bezoekt een demonstratie niet. Je spreekt je minder vrij uit.

Dat is precies hoe het Panopticon werkt: je hoeft niet voortdurend bekeken te worden. Het idee dát je bekeken kúnt worden is vaak al voldoende.

Onderzoek na de onthullingen van Edward Snowden liet zien dat mensen aanzienlijk minder zochten naar gevoelige onderwerpen. Niet omdat die onderwerpen minder belangrijk werden, maar omdat mensen voorzichtiger werden.

Ook kunstenaars, journalisten en onderzoekers kunnen onbewust onderwerpen gaan vermijden. Zo verschraalt het publieke debat en wordt de ruimte voor afwijkende ideeën steeds kleiner.

Een gezonde democratie heeft mensen nodig die durven denken, twijfelen, onderzoeken en zich uitspreken. Wanneer surveillance leidt tot zelfcensuur, verliezen we iets fundamenteels: de vrijheid om zonder angst onszelf te zijn.

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.

Slimmer of bekeken?

Steeds meer camera’s verdwijnen uit het straatbeeld. Niet omdat ze weg zijn, maar omdat ze onderdeel worden van alledaagse technologie. Denk aan AI-brillen die kunnen filmen, herkennen en analyseren zonder dat je het direct ziet.

De discussie verschuift daardoor. Niet langer gaat het alleen over camera’s aan gebouwen of in winkelstraten, maar ook over mensen die zelf een camera dragen. Dat roept vragen op over privacy, toestemming en de manier waarop we ons gedragen als we weten dat we bekeken kunnen worden.

Voor mij raakt dit de kern van Panoptica. Niet de technologie staat centraal, maar de invloed ervan op ons gedrag. Wanneer verandert observeren in gecontroleerd worden? En merken we dat nog wel?

Kunst hoeft geen antwoorden te geven. Soms is het genoeg om de vraag voelbaar te maken.

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.

De camera neemt niet meer alleen op. Hij velt al een oordeel.

We zijn gewend aan camera’s die passief registreren wat er voor hun lens gebeurt. Maar die tijd is voorbij. Met de opkomst van Edge AI krijgen camera’s hun eigen digitale brein. Ze sturen beelden niet langer alleen door naar een centrale server; de camera zelf analyseert in milliseconden jouw gedrag.

Hoe je loopt, hoe lang je ergens stilstaat, of je aanwezigheid afwijkt van de norm — de machine interpreteert, categoriseert en beslist direct. De grens tussen een passieve lens en een actieve, analyserende waarnemer is hiermee definitief vervaagd.

In een wereld waarin de technologie ons steeds actiever ontleedt, is de grote vraag niet meer of we gezien worden, maar hoe we worden beoordeeld.

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.

De vijand kijkt mee door jouw eigen lens

Het klinkt als een paranoïde thriller, maar het is de realiteit van vandaag. De AIVD waarschuwt dat buitenlandse hackers op grote schaal doodgewone IP-camera’s van bedrijven en particulieren overnemen. Apparaten die we ophangen voor onze veiligheid, worden in stilte omgebouwd tot spionagemiddelen voor een ander.

Het legt de vlijmscherpe paradox bloot waar we nu middenin zitten: in onze jacht op controle en schijnveiligheid zetten we de deuren wagenwijd open. We hangen de camera’s zelf op. We financieren onze eigen surveillance.

Wie kijkt er werkelijk naar je als je denkt dat je veilig bent? En wie heeft de sleutel in handen?

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.

Het toezicht kijkt. Maar wie kijkt naar het toezicht?

De bevindingen van de CTIVD laten zien dat zelfs de organisaties die onze veiligheid moeten bewaken, moeite hebben om binnen hun eigen wettelijke waarborgen te blijven. Onrechtmatig verwerkte gegevens. Te ruime toegang tot gevoelige informatie. Toezicht dat pas achteraf kan vaststellen wat al is gebeurd.

Dat is geen discussie over technologie. Dat is een discussie over macht.

We leven in een tijd waarin enorme hoeveelheden gegevens worden verzameld, gekoppeld en bewaard. Niet omdat iedereen verdacht is, maar omdat alles technisch mogelijk is geworden.

De vraag is niet alleen wat er wordt verzameld, maar ook wie daar toegang toe heeft, hoe lang die gegevens blijven bestaan en wie controleert of de regels worden nageleefd.

Dat is precies waar Panoptica over gaat. Niet over angst. Niet over complotten. Maar over een eenvoudige vraag: wie observeert de observator?

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.

Gaslight: malware die de analist probeert te misleiden

Gaslight probeert niet alleen een computer binnen te dringen, maar ook de AI die de aanval later onderzoekt te laten twijfelen. De malware plant misleidende berichten over een zogenaamd beschadigd geheugen en schijven die vol zouden zijn, met als doel een analysetool zijn eigen waarneming te laten wantrouwen.

Onder de motorkap is het een klassieke backdoor. Via de bot-API van Telegram ontstaat een command-and-controlkanaal waarmee een operator opdrachten kan sturen, bestanden kan stelen en processen kan stoppen.

Voor persistentie nestelt Gaslight zich als een LaunchAgent, vermomd als een systeemdienst van Apple. Daarnaast verzamelt het onder meer terminalgeschiedenis, geïnstalleerde apps, actieve processen, gegevens uit de macOS-sleutelhanger en browserdata.

Onderzoekers vermoeden dat een taalmodel heeft meegeschreven aan de installatiescripts. De makers gebruikten dus AI om code te schrijven én om de AI die de code moest analyseren te saboteren. De malware wordt met hoge waarschijnlijkheid gekoppeld aan een Noord-Koreaanse dreigingsactor.

Kunst>kijkt<terug

Eerder gepubliceerd op de Facebook-pagina van Panoptica.