Op 23 juni 2026 adviseerde de Meta Oversight Board dat Instagram seksuele AI-deepfakes moet verbieden en dat familie en vrienden van slachtoffers dergelijke content moeten kunnen melden. De raad, een onafhankelijk toezichthoudend orgaan voor Meta's contentmoderatie, stelt dat het huidige beleid onvoldoende is om de schade door niet-consensuele intieme deepfakes aan te pakken.
De aanbeveling volgt op een zaak rond een deepfake van een vrouwelijke beroemdheid, die gaten in de handhaving van Instagram blootlegde. De raad stelde dat seksueel expliciete deepfakes in strijd zijn met de communityrichtlijnen van Instagram over intimidatie en pesten, maar dat het platform specifieke regels voor AI-gegenereerde content mist.
Meta heeft 60 dagen om publiekelijk te reageren op de aanbevelingen. Het bedrijf zei de suggesties te zullen bekijken, maar beloofde geen verbod. De beslissing kan een precedent scheppen voor hoe sociale-mediaplatforms omgaan met AI-gegenereerd misbruik.
