Midjourney je známý generátor obrázků založený na umělé inteligenci, který zamotal hlavu nejedné obrázkové databázi. Nyní vedení Midjourney prohlásilo, že ukončí bezplatné používání svého generátoru. Důvodem je mimo jiné právě zneužívání technologie k vytváření falešných deepfake obrázků. Právě Midjourney má na svědomí fiktivní obrázky ze zatčení Donalda Trumpa či obrázky papeže Františka v módním kabátku.

David Holz, generální ředitel, potvrdil, že důvod ukončení bezplatné verze je mimořádná poptávka a zneužívání technologie. Midjourney sice zavedla určitá bezpečnostní opatření, ale podle Holze nebyla evidentně dostatečná. Nově tak bude využití Midjourney stát minimálně 10 dolarů měsíčně. Během chatu s uživateli přiznal Holz, že mají potíže s nastavováním zásad pro generování obsahu, protože umělá inteligence se zdokonaluje a vytváří čím dál více realističtější obrázky. Dalším cílem Holze je tak nastavení lepšího moderování umělé inteligence.

Vývojáři se již nyní snaží poměrně přísně specifikovat pravidla generování obrázků, takže zde zablokovali možnost vytvoření politicky orientovaných obrázků z právě probíhajících kauz, konspirační teorie či obrázky politiků. Stejně tak má přísná pravidla v oblasti erotiky, nenávisti, otázkách sexuality či násilí.