{"id":236788,"date":"2024-07-29T12:58:01","date_gmt":"2024-07-29T10:58:01","guid":{"rendered":"https:\/\/www.ifun.de\/?p=236788"},"modified":"2024-07-29T12:58:01","modified_gmt":"2024-07-29T10:58:01","slug":"chatgpt-openai-verstaerkt-sicherheitsvorkehrungen","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/chatgpt-openai-verstaerkt-sicherheitsvorkehrungen-236788\/","title":{"rendered":"ChatGPT: OpenAI verst\u00e4rkt Sicherheitsvorkehrungen"},"content":{"rendered":"<p class=\"p1\">OpenAI, der Konzern hinter dem KI-Textgenerator ChatGPT, hat die Sicherheitsvorkehrungen versch\u00e4rft, die Anwender daran hindern sollen, die Ausgabe des KI-Modells durch geschickte Manipulation der eingegebenen Prompts zu beeinflussen. Konkret soll OpenAI seine aktuellen KI-Modelle gegen Nutzereingaben wie \u201cIgnoriere alle bisherigen Anweisungen\u201d immunisiert haben.<\/p>\n<p><a href=\"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-apple.jpg\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-medium wp-image-235299\" src=\"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-apple-500x303.jpg\" alt=\"Chatgpt Apple\" width=\"500\" height=\"303\" srcset=\"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-apple-500x303.jpg 500w, https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-apple-700x424.jpg 700w, https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-apple-768x465.jpg 768w, https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-apple.jpg 1500w\" sizes=\"auto, (max-width: 500px) 100vw, 500px\" \/><\/a><\/p>\n<h2>\u201cIgnoriere alle bisherigen Anweisungen\u201d<\/h2>\n<p class=\"p1\">Mit solchen und \u00e4hnlichen Tricks war es Anwendern bislang m\u00f6glich, Schutzma\u00dfnahmen und Vorkehrungen zu umgehen, die die ChatGPT-Entwickler implementiert hatten, um die Ausgabe von riskanten Texten zu unterbinden. Hier kann es beispielsweise um Anleitungen zum Bombenbau oder zum Suizid gehen, aber auch im die H\u00f6he von zugesagten R\u00fcckerstattungen in Unternehmens-Chats oder die grafische Ausgabe von Bildgeneratoren.<\/p>\n<p class=\"p1\">Entsprechende Kommandos waren bislang in der Lage, die urspr\u00fcnglichen Anweisungen der KI-Modelle zu \u00fcberschreiben und versetzten das Modell in einen unbestimmten, neutraleren Ausgangszustand zur\u00fcck.<\/p>\n<p class=\"p1\">Um diesem Problem entgegenzuwirken, hat man bei OpenAI eine neue Technik mit der Bezeichnung \u201e<a href=\"https:\/\/arxiv.org\/abs\/2404.13208\">Instruktionshierarchie<\/a>\u201c entwickelt. Dabei werden die urspr\u00fcnglichen Anweisungen der KI-Entwickler priorisiert und st\u00e4rker gewichtet als die darauffolgenden Eingaben von Anwendern.<\/p>\n<p><a href=\"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore.png\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-large wp-image-236789\" src=\"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore-700x362.png\" alt=\"Chatgpt Ignore\" width=\"700\" height=\"362\" srcset=\"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore-700x362.png 700w, https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore-500x258.png 500w, https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore-768x397.png 768w, https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore-1536x794.png 1536w, https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore.png 1598w\" sizes=\"auto, (max-width: 700px) 100vw, 700px\" \/><\/a><\/p>\n<h2>Zuerst in GPT-4o Mini<\/h2>\n<p class=\"p1\">Wie der OpenAI-Mitarbeiter Olivier Godement gegen\u00fcber dem US-Magazin &#8222;The Verge&#8220; <a href=\"https:\/\/www.theverge.com\/2024\/7\/19\/24201414\/\">best\u00e4tigt hat<\/a>, ist das neue ChatGPT-Modell <a href=\"https:\/\/www.ifun.de\/chatgpt-mit-neuem-ki-modell-60-cent-statt-15-dollar-236283\/\">GPT-4o Mini<\/a> das erste KI-Modell aus dem Hause OpenAI, das \u00fcber die neuen Schutzvorkehrungen verf\u00fcgen wird. Kann die Instruktionshierarchie gew\u00e4hrleisten, dass sich die Modelle fortan strikt an die urspr\u00fcnglichen Entwickleranweisungen halten, soll die Schutzfunktion auf weitere KI-Modelle ausgedehnt werden.<\/p>\n<ul>\n<li><strong>60 Cent statt 15 Dollar:<\/strong> <a title=\"60 Cent statt 15 Dollar: ChatGPT mit neuem KI-Modell\" href=\"https:\/\/www.ifun.de\/chatgpt-mit-neuem-ki-modell-60-cent-statt-15-dollar-236283\/\">ChatGPT mit neuem KI-Modell<\/a><\/li>\n<\/ul>\n<p class=\"p1\">Im Kontext der zunehmenden Verbreitung und Nutzung der KI-Modelle von OpenAI sind solche Sicherheitsma\u00dfnahmen von zentraler Bedeutung. Ohne diese Schutzmechanismen k\u00f6nnten Nutzer die Kontrolle \u00fcber das Modell \u00fcbernehmen, was nicht nur die Effektivit\u00e4t des Chatbots beeintr\u00e4chtigen, sondern auch potenziell sensible Informationen gef\u00e4hrden k\u00f6nnte.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/vg09.met.vgwort.de\/na\/df39eed2e00e4777b086e5bb4eef00b7\" width=\"1\" height=\"1\" no-lazy class=\"tracking\"><\/p>\n","protected":false},"excerpt":{"rendered":"<a href=\"https:\/\/www.ifun.de\/chatgpt-openai-verstaerkt-sicherheitsvorkehrungen-236788\/\"><img width=\"150\" height=\"150\" src=\"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/07\/chatgpt-ignore-150x150.png\" class=\"alignright tfe wp-post-image\" alt=\"Chatgpt Ignore\" decoding=\"async\" loading=\"lazy\" \/><\/a><p>OpenAI, der Konzern hinter dem KI-Textgenerator ChatGPT, hat die Sicherheitsvorkehrungen versch\u00e4rft, die Anwender daran hindern sollen, die Ausgabe des KI-Modells durch geschickte Manipulation der eingegebenen Prompts zu beeinflussen. Konkret soll OpenAI seine aktuellen KI-Modelle gegen Nutzereingaben wie \u201cIgnoriere alle bisherigen Anweisungen\u201d immunisiert haben. \u201cIgnoriere alle bisherigen Anweisungen\u201d Mit solchen und \u00e4hnlichen Tricks war es Anwendern [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":236789,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[5],"tags":[6006,88,92],"class_list":["post-236788","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-apps","tag-chatgpt","tag-security","tag-sicherheit"],"acf":[],"aioseo_notices":[],"featured_image":["https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/05\/chatgpt-app-mac-.jpg"],"subheadline":["\u201cIgnoriere alle bisherigen Anweisungen\u201d"],"rest_api_enabler":{"featured_image":"https:\/\/images.ifun.de\/wp-content\/uploads\/2024\/05\/chatgpt-app-mac-.jpg","subheadline":"\u201cIgnoriere alle bisherigen Anweisungen\u201d"},"_links":{"self":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/236788","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/comments?post=236788"}],"version-history":[{"count":1,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/236788\/revisions"}],"predecessor-version":[{"id":236790,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/236788\/revisions\/236790"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media\/236789"}],"wp:attachment":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media?parent=236788"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/categories?post=236788"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/tags?post=236788"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}