Rhein-Main-Experten

Sogenante KI - Large Language Models - können nicht wahr von falsch unterscheiden bei den Daten mit denen sie gefüttert werden. Sie können auch nicht entscheiden, dass sie etwas nicht wissen.

"Solche Halluzinationen können in kritischen Bereichen wie der Medizin oder dem Rechtssystem schwerwiegende Folgen haben, wenn falsche Informationen für wahr gehalten werden.

Ursachen von Halluzinationen bei KI-Modellen

Es gibt mehrere Faktoren, die zum Auftreten von Halluzinationen beitragen:

"Das Europäische Parlament wollte vor allem sicherstellen, dass die in der EU eingesetzten KI-Systeme sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Um potenzielle Risiken und schädliche Folgen zu vermeiden, sollen diese Systeme von Menschen überwacht werden und nicht ausschließlich durch automatisierte Prozesse gesteuert werden.