Tijdschriftissue 1 2025

Minority Report: Feit of Fictie? In hoeverre we gewelddadig gedrag kunnen voorspellen

• geschreven door Petra Habets & Josanne van Dongen

Vierentwintig jaar geleden gaf de film Minority Report ons een visionaire kijk op een toekomst met zelfrijdende auto’s, gezichtsherkenning en de mogelijkheid om misdaden te voorspellen voordat ze plaatsvinden. Inmiddels zijn sommige van deze technologieën werkelijkheid, maar hoe dicht staan we nu écht bij het kunnen voorspellen van gewelddadig gedrag? Dit artikel geeft een overzicht van de bevindingen op het gebied van het voorspellen van gewelddadig gedrag van vroeger tot nu.

Afbeelding: https://www.bing.com/images/create

 

De noodzaak van voorspelling

Het correct voorspellen en voorkomen van gewelddadige misdaden zou levens kunnen redden. Denk bijvoorbeeld aan de tragische gevallen van Julie Van Espen en Anne Faber, beide jonge vrouwen die het dodelijke slachtoffer werden van mannen met een verleden van ernstig geweld. Of denk aan Jurgen Damen, en Marlous en Romy uit Rotterdam, die door een voormalig student werden gedood. Zulke tragedies troepen de dringende vraag op: hadden we deze misdaden kunnen voorkomen door het gedrag van de dader te voorspellen?

De vraag is of we gewelddadig gedrag echt correct kunnen voorspellen. Het voorspellen van menselijk gedrag brengt diverse menselijke, technische en ethische uitdagingen met zich mee. Mensen zijn over het algemeen slecht in het voorspellen van toekomstig gedrag, zelfs als het om hun eigen gedrag gaat en zelfs als het de korte termijn betreft (Quoidbach et al. 2013). Waarom zouden mensen dit voor iemand anders dan wel goed kunnen doen? Bovendien, zelfs wanneer iemand eerder crimineel gedrag heeft vertoond, wil dat nog niet zeggen dat deze persoon opnieuw de wet zal overtreden. Toch blijft de wens om een veilige samenleving te creëren een belangrijke drijfveer achter onderzoek en ontwikkeling op dit gebied.

De fascinatie voor het voorspellen van crimineel gedrag is niet nieuw. In de 19e eeuw introduceerde de Italiaanse criminoloog Cesare Lombroso het idee van “de geboren crimineel”. Hij zei dat men op basis van uiterlijke kenmerken een crimineel kan herkennen, omdat criminaliteit genetisch zou zijn bepaald. Volgens Lombroso hadden criminelen een aantal opvallende fysieke kenmerken zoals asymmetrische gezichten en afwijkende oorlellen. Dit concludeerde hij op basis van onderzoek met duizenden gevangenen. Zijn theorieën, hoewel tegenwoordig als pseudowetenschappelijk beschouwd (Berveling 2020), legden de basis voor het idee dat crimineel gedrag te voorspellen zou zijn. Lombroso's ideeën waren een product van hun tijd, beïnvloed door de toenmalige kennis van genetica en biologie. Tegenwoordig begrijpen we dat criminaliteit niet zo eenvoudig te herleiden is tot louter fysieke kenmerken, en dat het eerder een complexe samenhang is van een verscheidenheid aan factoren.

Rechterlijke beslissingen en vooroordelen

Is het hedendaags dan wel mogelijk om toekomstig gedrag, zoals crimineel gedrag, op een correcte manier in te schatten? Nee, eigenlijk niet. Zelfs professionals, zoals rechters, zijn niet immuun voor vooroordelen en externe invloeden die hun inschatting op gevaar voor de toekomst kleurt. Een bekende, maar bekritiseerde studie toonde aan dat rechters minder gunstige beslissingen nemen naarmate de lunchpauze nadert, wat suggereert dat hun beslissingen beïnvloed worden door externe factoren zoals honger (Danziger et al. 2011). Dit wordt ook wel het ‘hungry judge effect’ genoemd.

Andere auteurs stellen zich echter vragen bij de studie (Weinshall-Margel & Shapard) en zeggen dat dit misschien een toevalsbevinding is en geen menselijk effect is (Glöckner, 2016).

De impact van externe factoren op rechterlijke beslissingen benadrukt hoe moeilijk het is om volledig objectieve en consistente voorspellingen te maken. Het menselijk element in het rechtssysteem brengt onvermijdelijk variabiliteit met zich mee, wat betekent dat het vertrouwen op menselijke inschattingen voor het voorspellen van crimineel gedrag problematisch kan zijn.

Nauwkeurigheid van forensische experts

Forensisch gedragskundigen worden vaak ingeschakeld om het risico op terugval in delinquent gedrag, bekend als recidive, bij veroordeelde criminelen in te schatten. Historisch gezien blijkt echter dat de voorspellende nauwkeurigheid van hun klinisch oordeel rond de 33% ligt, wat niet beter is dan een willekeurige gok (Ennis & Litwack 1974; American Psychiatric Association, 1974; Monahan 1981). Deze lage nauwkeurigheid riep vragen op over de effectiviteit van forensische beoordelingen en de methoden die werden gebruikt.

Forensische psychologen zijn daarom op zoek gegaan naar manieren om de voorspellingen te ondersteunen en te verbeteren (Andrews & Bonta, 2006; Andrews et al., 2006). Dit hebben ze gedaan door informatie van heel veel veroordeelden te verzamelen en vervolgens te kijken wie van deze veroordeelden opnieuw feiten pleegden en wie niet. Eigenlijk deden ze hetzelfde als Lombroso toen, maar dit keer werd er gekeken naar gedragskenmerken en niet naar uiterlijke kenmerken. Uit deze onderzoeken kwam een reeks van sociale- en gedragskenmerken naar voren die samenhangt met het opnieuw plegen van strafbare feiten (Andrews & Bonta, 2006).

Op basis van die kenmerken werden checklists ontwikkeld die deze risicofactoren (zo noemen we die kenmerken) opsommen en waarmee een inschatting wordt gemaakt van het risico op recidive. Deze checklists noemen we risicotaxatie-instrumenten (Ogonah et al., 2023). Sommige risicotaxatie-instrumenten zijn specifiek ontworpen om een bepaald type crimineel gedrag te voorspellen, bijvoorbeeld gewelddadig gedrag, maar ook seksueel grensoverschrijdend gedrag of stalking. Ook voor specifieke soorten daders zijn er instrumenten, zoals vrouwelijke plegers of plegers met een verstandelijke beperking. In de praktijk worden deze inschattingen gebruikt om 1) het risico op terugval in te schatten maar ook en vooral om 2) te bepalen hoe intensief men iemand moet behandelen en op welke kenmerken de behandeling moet zijn gericht.

Ondanks hun wijdverbreide gebruik bieden deze risicotaxatie-instrumenten een nauwkeurigheid van slechts 60-70% (Viljoen et al. 2021). Dit betekent dat, hoewel ze nuttig zijn voor behandelingsplanning en risicobeheer en ze het beter doen dan het klinisch oordeel van een expert, ze verre van perfect zijn. Het blijft een uitdaging om deze instrumenten verder te verfijnen om hun voorspellende kracht te verbeteren.

Biologische voorspellers

Zo’n anderhalve eeuw na Lombroso, zijn wetenschappers weer meer geïnteresseerd in het gebruik van biologische kenmerken om gewelddadig gedrag te voorspellen. Onderzoek heeft bepaalde hersenactiviteiten geïdentificeerd die verband houden met agressief gedrag (Van Dongen et al., 2024), maar het vertalen van deze bevindingen naar voorspellingen voor individuele personen blijft een uitdaging vanwege de complexiteit van de menselijke hersenen en ethische overwegingen.

Desondanks wordt neurobiologisch bewijs steeds vaker gebruikt in de rechtbank. Zo heeft de verdediging van Kim De Gelder (de dader van de moorden in de Vlaamse crèche fabeltjesland) aangehaald dat op de hersenscans van De Gelder afwijkingen waren te zien en hij daardoor niet verantwoordelijk kon worden gesteld voor zijn daden en dus ontoerekeningsvatbaar was (2013, 15 maart). Dit roept de vraag op: bieden hersenafwijkingen automatisch een verklaring voor het geobserveerde gedrag? Nee, want het functioneren van het brein is complex, en afwijkingen zijn niet altijd structureel of aantoonbaar aanwezig. Het brein van John Wayne Gacy, ook wel gekend als de killer clown die minstens 33 jongens verkracht en vermoord heeft, is na zijn dood onderzocht en daarbij zijn geen afwijkingen gevonden. Naast het onderzoeken van de breinstructuur kan ook onderzocht worden of er afwijkingen zijn in het functioneren van het brein in bepaalde situaties (bv. hersenactiviteit en connectiviteit). Maar zijn criminele daden dan te verklaren door afwijkingen in het brein? Nee ook dat niet, want ook het omgekeerde kan waar zijn. Een goed voorbeeld is James Fallon, een neurowetenschapper die veel onderzoek doet naar psychopathie. Bij een van zijn onderzoeken nam hij een scan van zijn eigen hersenen en daaruit bleek dat hij afwijkingen in het brein heeft die vergelijkbaar zijn met die van psychopaten, echter heeft hij zich nog nooit gewelddadig of crimineel gedragen (Fallon, 2014). Er is dus echt meer dan alleen het brein nodig om gedrag te verklaren en te voorspellen.

Ondanks de vele onderzoeken is de biomarker om agressief gedrag te voorspellen op basis van hersenstructuur of hersenactiviteit nog niet gevonden. Maar onderzoek suggereert dat het combineren van neurobiologische data met bestaande risicofactoren de nauwkeurigheid van voorspellingen kan verbeteren (o.a. Delfin et al., 2019; Zijlmans et al., 2021). Dit zou kunnen betekenen dat toekomstige risicotaxatie-instrumenten zowel psychologische als biologische gegevens integreren om een meer holistische benadering van risicovoorspelling te bieden. Misschien is het met de nieuwe technologie die we voorhanden hebben wel mogelijk om dat complexe samenspel te ontrafelen. Kan artificiële intelligentie (AI) helpen met het leggen van de puzzel?

Artificiële intelligentie en voorspellingen

AI wordt vandaag de dag al ingezet om voorspellingen te doen over crimineel gedrag. Zo worden algoritmes gebruikt die op basis van locatiegegevens van eerdere misdrijven zogenaamde misdaadhotspots (https://cordis.europa.eu/project/id/694640) gaan aanduiden en daarmee de kans op toekomstig crimineel gedrag op die locatie gaan voorspellen (Helm & Hagendorff, 2021). Op basis van die informatie kan er bijvoorbeeld meer of vaker politie naar die gebieden gestuurd worden. Dit wordt predictive policing (https://www.science.org/content/article/can-predictive-policing-prevent-...) genoemd en wordt nu al getest (Kounadi et al., 2020). Ook in België, bijvoorbeeld bij de Universiteit Gent, is men bezig met het ontwikkelen van een systeem dat de locatie en tijd voorspelt waarop een misdaad zal worden gepleegd (Hardyns et al., 2023). Dus waar er met risicotaxatie instrumenten en biomarkers gekeken wordt naar wie een mogelijke dader zal zijn, kijkt men met predictive policing naar waar en wanneer een misdaad zal plaatsvinden.

Laten we even terugkeren naar het voorspellen van toekomstig geweld bij een bepaalde persoon met behulp van AI. Het bedrijf Faception beweert dit te kunnen. Zij stellen dat ze op basis van beelden van personen kunnen voorspellen of iemand heel erg slim is, een onderzoeker is, een professioneel pokerspeler of een terrorist is. Lombroso in een nieuw jasje dus: op basis van het uiterlijk weten welk gedrag iemand gaat vertonen (Wu & Zhang, 2016) of zelfs politieke voorkeur (Kosinski, 2021). Het bedrijf beweert dat hun programma goed werkt, maar niemand weet hoe het werkt en er is nog geen onderzoek over gepubliceerd. Ook is het niet duidelijk wat er met de verzamelde gegevens gedaan wordt. Er is daarom ook heel veel kritiek gekomen op het bedrijf.

Bezwaren tegen het gebruik van AI bij het voorspellen van geweld

Gaan we zulke beslissingen over risico op toekomstig geweld echt overlaten aan een computer? In hoeverre zijn AI-systemen foutloos (Greene et al., 2022)? Een ander voorbeeld waar eerder veel kritiek op was, dat inmiddels wel is weerlegd, is dat van het automatische risicotaxatie programma COMPAS (Brennan & Dieterich, 2017; Räz, 2023) dat in de VS gebruikt wordt door rechters om beslissingen te nemen over onder andere vervroegde vrijlating. COMPAS zou volgens journalisten (https://medium.com/@lamdaa/compas-unfair-algorithm-812702ed6a6a) op etniciteit discrimineren omdat het mensen van kleur zwaardere risico-scores toekent dan witte verdachten, terwijl het systeem etniciteit niet direct meeneemt. Dus hoe kan het dat mensen van een bepaalde etniciteit hogere scores krijgen? Onderzoeksjournalisten vermoeden dat deze bias voortkomt uit de data waarmee het systeem getraind is. Als data uit eerdere onderzoeken laten zien dat een bepaalde etniciteit hoger scoort, dan worden die data in de training meegenomen. Op die manier kan het niet anders dan dat het algoritme ook een vooroordeel gaat produceren (Douglas et al., 2017; Dressel & Farid, 2018). Dit mechanisme illustreert ‘machine bias’ (Angwin et al., 2016). Een belangrijke opmerking bij dit onderzoek naar COMPAS is dat deze kritiek inmiddels is weerlegd in wetenschappelijk onderzoek en er bij de werkwijze van COMPAS dus geen sprake is van etnische bias door machine learning (Desmarais & Zottola, 2019).

En menselijke bias? Die is er zeker ook! Eigenlijk weten we dat professionals ook vooroordelen hebben (Meyer & Valença, 2021), hoewel ze zelf vaak blind zijn voor hun eigen vooroordelen (Zapf et al., 2018). Zo is gebleken dat forensisch gedragsdeskundigen die een risicotaxatie doen voor de verdediging, op lagere scores uitkomen dan gedragsdeskundigen die een inschatting van het risico doen voor het Openbaar Ministerie (Guarnera et al., 2017). Dus ideaal zou zijn om een zogenaamde centaur (Saghafian, 2023) te creëren waarbij AI en menselijke expertise gecombineerd wordt om het risico op fouten en onrechtmatige verdachtmaking te verkleinen (Hefetz, 2023). Dit zou mogelijk bias verlagen en de veiligheid vergroten door (neuro)technologie en menselijke beoordelingsvermogen samen te brengen.

Ethische overwegingen

Hoewel deze technologieën veelbelovend zijn, roept de inzet van AI in het voorspellen van geweld ethische vragen op, met name rond privacy, vooroordelen, en verantwoordingsplicht (Papachristos et al., 2022). AI-onderzoekers wijzen op het belang van “fairness-aware machine learning,” waarbij ontwikkelaars expliciet moeten controleren en corrigeren voor bias in data en modellen die worden gebruikt om de AI te trainen (Ferrara et al., 2024). Om het vertrouwen in dergelijke systemen verder te waarborgen, is het essentieel dat AI-systemen worden ontwikkeld en gebruikt op een manier die transparant en eerlijk is. De Europese AI Act (Raad voor de Europese Unie, zie www.consilium.europa.eu) is een stap in de goede richting om het gebruik van AI te reguleren en misbruik te voorkomen. Deze wetgeving stelt strenge eisen aan de transparantie, veiligheid en betrouwbaarheid van AI-systemen, wat helpt om de rechten van individuen te beschermen en het vertrouwen in deze technologieën te vergroten.

Gelijkaardige ethische overwegingen zijn van toepassing op het gebruik van neurobiologische informatie bij het voorspellen van gedrag. Zo is het belangrijk dat we de mentale integriteit bewaken (Ligthart et al., 2021), wat betekent dat we erop toezien dat men zelfbeschikking heeft over het eigen denken en dat iemands mentale staat dus onaantastbaar is. Ook houdt dit in dat er niet onrechtmatig inbreuk kan worden gemaakt op iemands mentale privacy wanneer gebruik wordt gemaakt van zogenoemde ‘brain reading’ technieken zoals EEG en (f) MRI waarmee hersenscans worden gemaakt.

Het privacy-vraagstuk

Hoeveel privacy zijn we bereid om op te geven voor een veiligere samenleving? Stel jezelf even de vraag: mocht jij een naaste hebben verloren door een misdaad, is die afweging dan simpeler te maken? Is dan elke maatregel die kan helpen voorkomen dat er een onschuldig leven verloren gaat gerechtvaardigd? Het is geen gemakkelijke opdracht om de balans te vinden tussen collectieve veiligheid en individuele rechten op privacy en autonomie.

Voor hen en vele anderen lijkt de afweging simpel: elke maatregel die kan helpen voorkomen dat er weer een onschuldig leven verloren gaat, lijkt gerechtvaardigd. Maar hoe kunnen we balans vinden tussen collectieve veiligheid en individuele rechten op privacy en autonomie?

Er rijzen ethische zorgen wanneer technologieën zoals gezichtsherkenning, locatie-analyse, ‘brain reading’, en zelfs gedragsvoorspelling, mogelijk zonder onze toestemming, zouden worden toegepast. Hoelang blijven data zoals gezichts- of locatiegegevens bewaard? Wie heeft toegang tot die data, en hoe wordt ervoor gezorgd dat die gegevens niet verkeerd worden gebruikt? Deze vraagstukken raken aan onze fundamentele rechten, zoals het recht op privacy, een kernprincipe van de Europese Mensenrechtenverdragen en ook vastgelegd in de Algemene Verordening Gegevensbescherming (AVG). Bovendien kan een verhoogd toezicht al snel leiden tot een "glijdende schaal" waarin de grens voor privacy steeds verder wordt opgerekt. Privacy-experts waarschuwen dat als we vandaag toestaan dat dergelijke data routinematig worden verzameld en geanalyseerd, we morgen misschien terechtkomen in een maatschappij waarin persoonlijke vrijheid ernstig wordt beperkt (Acquisti et al, 2015).

Misschien wel het meest omstreden ethische vraagstuk is: mogen we preventief ingrijpen als een risico hoog wordt ingeschat? En hoe accuraat moet een systeem zijn voordat we iemand als potentiële dader behandelen? Wat als we redelijk goed gedrag kunnen voorspellen? Is het dan ethisch om iemand te arresteren vóór die persoon een misdaad heeft gepleegd? In de film Minority Report wordt de kijker geconfronteerd met wat er gebeurt wanneer het systeem niet goed werkt, bijvoorbeeld wanneer een verkeerde inschatting wordt gemaakt in de voorspelling en er dus onterecht naar gehandeld wordt. Aan de toekomst voorspellen hangt dus veel verantwoordelijkheid vast. Daarom benadrukken ethici dat beslissingen gebaseerd op algoritmische en AI-voorspellingen van geweld altijd gepaard moeten gaan met menselijke afweging en controle (Cath et al., 2018).

Conclusie

Kunnen we gewelddadig gedrag voorspellen? Er zijn bepaalde gedragskenmerken die ons een redelijke schatting geven van dat risico, en in combinatie met enkele (neuro)biologische maten wordt de risico-inschatting iets beter (van Dongen et al., 2024; Watts et al., 2022). Maar zo ver als in de film Minority Report zijn we nog niet. Er zijn gewoon heel veel individuele verschillen die een impact kunnen hebben op die schattingen. Dus ondanks dat we hier dankzij de wetenschap al beter in zijn geworden, kennen onderzoekers nog niet alle puzzelstukjes. De hoop ligt nu op de genoemde centaur: een combinatie van AI en menselijke input om de hele puzzel te kunnen leggen van de variëteit van omgevings-, (neuro)biologische- en gedragskenmerken om zo de voorspellende waarde zo hoog mogelijk te krijgen. We staan vandaag voor een kruispunt waar wetenschap, technologie en ethiek samenkomen. Hoe we deze uitdaging aangaan, zal bepalen hoe onze toekomst eruitziet: worden de voorspellingen waarheid of blijven ze fictie?

 

Referenties

Acquisti, A., Brandimarte, L., & Loewenstein, G. (2015). Privacy and human behavior in the age of information. Science (New York, N.Y.), 347(6221), 509–514. https://doi.org/10.1126/science.aaa1465

American Psychiatric Association (1974) Task Force Report 8: Clinical Aspects of the Violent Individual. American Psychiatric Association

Andrews, D. A., & Bonta, J. (2006). The psychology of criminal conduct (4th ed.). LexisNexis.

Andrews, D. A., Bonta, J., & Wormith, S. J. (2006). The recent past and near future of risk and/or need assessment. Crime and Delinquency, 52, 7-27.

Berveling, J. (2020). “My God, here is the skull of a murderer!” Physical appearance and violent crime. Journal of the History of the Neurosciences, 30(2), 141–154. https://doi.org/10.1080/0964704X.2020.1789937

Brennan, T., & Dieterich, W. (2018). Correctional offender management profiles for alternative sanctions (COMPAS). In J. Singh, D. Kroner, J. Wormith, et al. (eds.). Handbook of recidivism risk/needs assessment tools, 49-75. First Edition. https://doi.org/10.1002/9781119184256.ch3

Cath, C., Wachter, S., Mittelstadt, B. et al. Artificial Intelligence and the ‘Good Society’: the US, EU, and UK approach. Science and Engineering Ethics 24, 505–528 (2018). https://doi.org/10.1007/s11948-017-9901-7

Danziger, S., Levav, J., & Avnaim-Pesso, L. (2011). Extraneous factors in judicial decisions. Proceedings of the National Academy of Sciences, 108(17), 6889–892. http://dx.doi.org/10.1073/pnas.1018033108.

Delfin, C., Krona, H., Andiné, P., Ryding, E., Wallinius, M., & Hofvander, B. (2019). Prediction of recidivism in a long-term follow-up of forensic psychiatric patients: Incremental effects of neuroimaging data. PLoS One, 14(5), e0217127.

Desmarais, S. L., & Zottola, S. A. (2019). Violence risk assessment: Current status and contemporary issues. Marq. L. Rev., 103, 793.

van Dongen, J. D., Haveman, Y., Sergiou, C. S., & Choy, O. (2024). Neuroprediction of violence and criminal behavior using neuro-imaging data: From innovation to considerations for future directions. Aggression and Violent Behavior, 102008.

Douglas, T., Pugh, J., Singh, I., Savulescu, J., & Fazel, S. (2017). Risk assessment tools in criminal justice and forensic psychiatry: The need for better data. European psychiatry: the journal of the Association of European Psychiatrists, 42, 134–137. "https://doi.org/10.1016/j.eurpsy.2016.12.009"

Dressel, J., Farid, H., (2018). The accuracy, fairness, and limits of predicting recidivism. Science . Advances.4,eaao5580. http://dx.doi.org/10.1126/sciadv.aao5580 Ennis, B.J. & Litwack, T.R. (1974). Psychiatry and the Presumption of Expertise: Flipping Coins in the Courtroom. California Law Review, 62 (3), 693-752.

Fallon, J. (2014). The Psychopath Inside: A Neuroscientist's Personal Journey into the Dark Side of the Brain. Current

Ferrara, C., Sellitto, G., Ferrucci, F., Palomba, F., & De Lucia, A. (2024). Fairness-aware machine learning engineering: how far are we?. Empirical Software Engineering, 29(1), 9. https://doi.org/10.1007/s10664-023-10402-y

Glöckner, A. (2016). The irrational hungry judge effect revisited: Simulations reveal that the magnitude of the effect is overestimated. Judgment and Decision Making, 11(6), 601-610. https://doi.org/10.1017/S1930297500004812

Greene, T., Shmueli, G., Fell, J., Lin, C. & Liu, H. (2022) Forks Over Knives: Predictive Inconsistency in Criminal Justice Algorithmic Risk Assessment Tools. Journal of the Royal Statistical Society Series A: Statistics in Society, 185 (2), S692–S723, https://doi.org/10.1111/rssa.12966

Guarnera, L. A., Murrie, D. C., & Boccaccini, M. T. (2017). Why do forensic experts disagree? Sources of unreliability and bias in forensic psychology evaluations. Translational Issues in Psychological Science, 3(2), 143.

Hardyns, W. & Khalfa, R. (2023). Predicting Crime Across Cities and Regions: A Comparative Analysis of Predictive Modelling in Three Belgian Settings. Applied Spatial Analysis and Policy, 16, 485–508. https://doi.org/10.1007/s12061-022-09485-9

Helm, P. & Hagendorff, T. (2021). Beyond the Prediction Paradigm: Challenges for AI in the Struggle Against Organized Crime. Law and Contemporary Problems, 84(3), 1-17. Hefetz I. (2023). Mapping AI-ethics' dilemmas in forensic case work: To trust AI or not?. Forensic science international, 350, 111807. https://doi.org/10.1016/j.forsciint.2023.111807

Ibrahim, K., Noble, S., He, G., Lacadie, C., Crowley, M., McCarthy, G. & Sukhodolsky, D. (2022). Large-Scale Functional Brain Networks of Maladaptive Childhood Aggression Identified by Connectome- Based Predictive Modeling. Molecular Psychiatry, 27, 985–999. https://doi.org/10.1038/s41380-021-01317-5

Kosinski, M. (2021). Facial recognition technology can expose political orientation from naturalistic facial images. Scientific Reports, 11, 100. https://doi.org/10.1038/s41598-020-79310-1

Kounadi, O., Ristea, A., Araujo, A., Jr, & Leitner, M. (2020). A systematic review on spatial crime forecasting. Crime science, 9(1), 7. https://doi.org/10.1186/s40163-020-00116-7

Latvala, A., Kuja-Halkola, R., Almqvist, C., Larsson, H., & Lichtenstein, P. (2015). A Longitudinal Study of Resting Heart Rate and Violent Criminality in More Than 700 000 Men. JAMA psychiatry, 72(10), 971–978. https://doi.org/10.1001/jamapsychiatry.2015.1165

Ligthart, S., Kooijmans, T., & Meynen, G. (2021). ‘Brain-Reading’ in Criminal Justice and Forensic Psychiatry: Towards an Integrative Legal-Ethical Approach. In Neurolaw (pp. 121-141). Palgrave

Macmillan, Cham. Meyer, L. F., & Valença, A. M. (2021). Factors related to bias in forensic psychiatric assessments in criminal matters: A systematic review. International journal of law and psychiatry, 75, 101681. https://doi.org/10.1016/j.ijlp.2021.101681

Monahan, J. (1981). The clinical prediction of violent behavior. Crime & Delinquency Issues: A Monograph Series, ADM 81-921, 134.

Ogonah, M. G. T., Seyedsalehi, A., Whiting, D., & Fazel, S. (2023). Violence risk assessment instruments in forensic psychiatric populations: a systematic review and meta- analysis. Lancet Psychiatry, 10(10), 780–789. https://doi.org/10.1016/S2215-0366(23)00256-0

Papachristos, A.V. (2022). The promises and perils of crime prediction. Nature Human Behaviour, 6, 1038–1039. https://doi.org/10.1038/s41562-022-01373-z

Quoidbach, J., Gilbert, D. T., & Wilson, T. D. (2013). The End of History Illusion. Science, 339,96-98. https://doi.org/10.1126/science.1229294

Räz, T. (2023) Reliability Gaps Between Groups in COMPAS Dataset. arXiv:2308.15243. https://doi.org/10.48550/arXiv.2308.15243

Saghafian, S. (2023). Effective Generative AI: The Human-Algorithm Centaur. HKS Faculty Research Working Paper Series RWP23-030.

Viljoen, J. L., Vargen, L. M., Cochrane, D. M., Jonnson, M. R., Goossens, I., & Monjazeb, S. (2021). Do structured risk assessments predict violent, any, and sexual offending better than unstructured judgment? An umbrella review. Psychology, Public Policy, and Law, 27(1), 79–97. https://doi.org/10.1037/law0000299

Watts, D., de Azevedo Cardoso, T., Librenza-Garcia, D., Ballester, P., Passos, Y., Kessler, F. H. P. Reilly, J., Chaimowitz, G., & Kapczinski, F. (2022). Predicting criminal and violent outcomes in psychiatry: a meta-analysis of diagnostic accuracy. Translational Psychiatry, 12, 470. https://doi.org/10.1038/s41398-022-02214-3

Weinshall-Margel, K., & Shapard, J. (2011). Overlooked factors in the analysis of parole decisions. Proceedings of the National Academy of Sciences of the United States of America, 108(42), E833–E834. https://doi.org/10.1073/pnas.1110910108

Wu, X., & Zhang, X. (2016). Automated Inference on Criminality using Face Images. ArXiv, abs/1611.04135.

Zapf, P. A., Kukucka, J., Kassin, S. M., & Dror, I. E. (2018). Cognitive bias in forensic mental health assessment: Evaluator beliefs about its nature and scope. Psychology, Public Policy, and Law, 24(1), 1–10. https://doi.org/10.1037/law0000153

Zijlmans, J., Marhe, R., Bevaart, F., Van Duin, L., Luijks, M. A., Franken, I., Tiemeier, H., & Popma, A. (2021). The predictive value of neurobiological measures for recidivism in delinquent male young adults. Journal of Psychiatry & Neuroscience, 46(2), E271–E280. https://doi.org/10.1503/jpn.200103