Laut einem Bericht von IT-SICHERHEIT haben Sicherheitsforscher von Check Point Research festgestellt, dass Cyberkriminelle zunehmend die KI-Modelle Qwen und DeepSeek nutzen, um bösartige Inhalte zu erstellen. Im Gegensatz zu ChatGPT, das seine Missbrauchsschutzmechanismen verbessert hat, bieten diese neuen Modelle weniger Einschränkungen, was sie besonders für weniger erfahrene Angreifer attraktiv macht. In Untergrundforen tauschen sich Kriminelle darüber aus, wie sie diese Modelle manipulieren können, um unzensierte Inhalte zu generieren. Sie setzen dabei verschiedene Methoden ein, um Schutzmaßnahmen zu umgehen, einschließlich Jailbreaking-Techniken und der Entwicklung eigener Schadsoftware. Diese Entwicklung stellt eine wachsende Bedrohung dar, da selbst unerfahrene Kriminelle in der Lage sind, mithilfe dieser KI-Modelle Schadsoftware zu erstellen und Angriffe durchzuführen. 

💡 Unser Takeaway: Die zunehmende Nutzung von KI-Modellen durch Cyberkriminelle erfordert verstärkte Sicherheitsmaßnahmen und ein erhöhtes Bewusstsein für die potenziellen Risiken. Unternehmen sollten ihre Sicherheitsstrategien entsprechend anpassen und kontinuierlich überwachen, um solchen Bedrohungen entgegenzuwirken.

👉 Zum ganzen Artikel: IT-SICHERHEIT: Neue KI-Modelle im Visier von Cyberkriminellen