De ontwikkelingen rondom kunstmatige intelligentie (Artificial Intelligence, AI) gaan afgelopen jaren snel. Denk aan ChatGPT, maar er zijn ook verschillende biodesign tools zoals ProteinBERT of DeepCRISPR. Met deze tools kun je veel sneller en gerichter eiwitten met bepaalde therapeutische eigenschappen ontwerpen. De mogelijkheden zijn enorm en AI biedt veel kansen, maar er zitten ook risico’s aan.
Het scenario: Toxische eiwitten ontwerpen met AI biodesign tool
In je organisatie wordt onderzoek gedaan naar eiwitten die betrokken zijn bij de signaaloverdracht van cellen van het afweersysteem. Het doel is om nieuwe eiwitten te ontwerpen die een blokkerende werking hebben met een minimale toxiciteit. Een postdoc is onlangs op dit onderwerp gepromoveerd en is met AI biodesign tools bezig om eiwitten te ontwerpen. In de AI tool kun je allerlei parameters instellen, waaronder ook de mate van toxiciteit. In een dolle bui heeft de onderzoeker plots ingesteld om geen eiwitten te ontwerpen met lage toxiciteit, maar juist structuren met een hoge toxiciteit. In een mum van tijd geeft de AI biodesign tool een aantal, zowel bekende als onbekende, eiwitten die zeer toxisch zijn. De postdoc is enthousiast en vertelt aan collega’s, maar ook op feestjes, wat hij heeft ontdekt.
Risico’s en Handelingsperspectief
Wanneer je werkzaam bent in een biotechnologie organisatie, dan kan de kennis in jouw organisatie, bijvoorbeeld over de toxiciteit van door AI gegenereerde eiwitten, ook voor anderen interessant zijn die wellicht kwade bedoelingen hebben. Onderzoekers realiseren zich vaak niet welke potentie AI biodesign tools hebben en dat dit ook voor andere doeleinden gebruikt kan worden. Bewustwording van dual-use toepassing van dergelijke tools bij de onderzoekers en het verantwoord omgaan met de technologie is belangrijk om misbruik te voorkomen. Beperkte toegang door middel van wachtwoorden op de software of het screenen van medewerkers die toegang hebben tot de AI biodesign tool kan bijdragen aan het verkleinen van het risico op misbruik. Het is ook belangrijk om na te gaan waar nog meer veiligheidsstappen kunnen worden ondernomen, zeker wanneer het digitale ontwerp van eiwitten omgezet gaat worden in de daadwerkelijke synthese van de eiwitten.
Relevante links:
- Urbina, F., Lentzos, F., Invernizzi, C. et al. Dual use of artificial-intelligence-powered drug discovery. Nat Mach Intell 4, 189–191 (2022). https://doi.org/10.1038/s42256-022-00465-9
- WHO - Emerging technologies and scientific innovations: a global public health perspective, 2023. https://www.who.int/publications/i/item/9789240073876
- NTI - The Convergence of Artificial Intelligence and the Life Sciences https://www.nti.org/analysis/articles/the-convergence-of-artificial-intelligence-and-the-life-sciences/
- Welcome Trust - Unlocking the potential of AI in Drug Discovery - Current status, barriers and future opportunities, 2023. https://cms.wellcome.org/sites/default/files/2023-06/unlocking-the-potential-of-AI-in-drug-discovery_report.pdf(PDF)
Meer weten of jouw scenario delen?
Wil je meer weten over AI en biotechnologie? Bureau Biosecurity zal een presentatie verzorgen tijdens de EBSA conferentie in Antwerpen op vrijdag 17 mei. Wil je graag met Bureau Biosecurity verder praten over dit scenario of loop je zelf tegen een biosecurity scenario aan die je graag zou willen delen met vakgenoten, laat het ons weten! Bureau Biosecurity is te bereiken via biosecurity@rivm.nl.