Anthropic: Nutzer sollen Jailbreak-Schutz für KI-Chatbot auf die Probe stellen from Heise's blog

Anthropic hat ein Filtersystem entwickelt, das Antworten auf unzulässige KI-Anfragen verhindern soll. Nun sind die Nutzer gefordert, die Filter zu testen.

Source: https://www.heise.de/news/Anthropic-Nutzer-sollen-Jailbreak-Schutz-fuer-KI-Chatbot-auf-die-Probe-stellen-10269014.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag