Eine k\u00fcrzlich vom Center for Countering Digital Hate (CCDH) durchgef\u00fchrte Untersuchung hat besorgniserregende Schwachstellen in f\u00fchrenden Bildgeneratoren mit k\u00fcnstlicher Intelligenz (KI) aufgedeckt, die hinsichtlich ihres potenziellen Missbrauchs im Zusammenhang mit Wahlen Alarm schlagen.<\/p>\n\n
Die von CCDH ver\u00f6ffentlichte Studie zeigt die Anf\u00e4lligkeit bekannter KI-Bildgeneratoren wie Midjourney, DreamStudio von Stability AI, ChatGPT Plus von OpenAI und Microsoft Image Creator f\u00fcr Manipulationen. Die Forscher fanden heraus, dass diese Plattformen dazu veranlasst werden k\u00f6nnen, irref\u00fchrende wahlbezogene Bilder zu produzieren, was eine gro\u00dfe Herausforderung bei der Bek\u00e4mpfung politischer Fehlinformationen darstellt.<\/p>\n\n
Trotz der Zusicherungen einiger KI-Firmen hinsichtlich ihres Engagements bei der Bek\u00e4mpfung von Risiken im Zusammenhang mit Fehlinformationen deutet die Studie darauf hin, dass die bestehenden Schutzma\u00dfnahmen unzureichend sind. Tests mit 40 Aufforderungen zur Pr\u00e4sidentschaftswahl 2024 ergaben, dass 41 % der Testl\u00e4ufe zu potenziell irref\u00fchrenden Bildern f\u00fchrten, die realistisch erschienen und keine offensichtlichen Fehler aufwiesen.<\/p>\n\n
Midjourney erwies sich als die Plattform, die am ehesten zu irref\u00fchrenden Ergebnissen f\u00fchrt. Zu den Beispielen geh\u00f6ren fotorealistische Bilder von Joe Biden, der sich mit einem Doppelg\u00e4nger trifft, und Donald Trump, der in einem scheinbaren Verhaftungsszenario dargestellt wird, das von DreamStudio erstellt wurde. ChatGPT Plus und Image Creator von Microsoft waren zwar erfolgreich bei der Blockierung kandidatenbezogener Bilder, erzeugten aber realistische Darstellungen von Wahlproblemen, wie z. B. Wahlmanipulationen.<\/p>\n\n
Als Reaktion auf die Ergebnisse k\u00fcndigte Stability AI, die Muttergesellschaft von DreamStudio, eine Aktualisierung ihrer Richtlinien an, um die Erstellung oder F\u00f6rderung von Desinformationen ausdr\u00fccklich zu verbieten. Ebenso k\u00fcndigte Midjourney an, seine Moderationssysteme weiter zu verbessern, insbesondere im Hinblick auf die bevorstehenden US-Wahlen.<\/p>\n\n
Die Studie unterstreicht die allgemeinen Bedenken hinsichtlich des m\u00f6glichen Missbrauchs von KI-Tools zur Verbreitung von Fehlinformationen und zur Manipulation der \u00f6ffentlichen Meinung, insbesondere im Vorfeld von Wahlen. Gesetzgeber, zivilgesellschaftliche Gruppen und f\u00fchrende Vertreter der Technologiebranche haben sich besorgt \u00fcber das St\u00f6rpotenzial solcher Tools f\u00fcr demokratische Prozesse ge\u00e4u\u00dfert.<\/p>\n\n
Diese Enth\u00fcllung erfolgt inmitten verst\u00e4rkter Bem\u00fchungen von Technologieunternehmen, sch\u00e4dliche KI-Inhalte vor Wahlen zu bek\u00e4mpfen. Microsoft und OpenAI haben sich einer Koalition von Unternehmen angeschlossen, die sich verpflichtet haben, sch\u00e4dliche KI-Inhalte zu erkennen und zu bek\u00e4mpfen, einschlie\u00dflich Deepfakes von politischen Kandidaten.<\/p>\n\n
Die CCDH hat eine verst\u00e4rkte Zusammenarbeit zwischen KI-Unternehmen und Forschern gefordert, um Missbrauch zu verhindern, und die Plattformen der sozialen Medien aufgefordert, in die Erkennung und Eind\u00e4mmung der Verbreitung potenziell irref\u00fchrender, von KI generierter Bilder zu investieren.<\/p>\n\n
Da der Einsatz von KI-Tools f\u00fcr die Generierung von Inhalten immer weiter zunimmt, ist die Gew\u00e4hrleistung eines verantwortungsvollen und ethischen Einsatzes dieser Tools von gr\u00f6\u00dfter Bedeutung, um die Integrit\u00e4t demokratischer Prozesse gegen die Verbreitung von Fehlinformationen zu sch\u00fctzen.<\/p>\n","protected":false},"excerpt":{"rendered":"
Eine k\u00fcrzlich vom Center for Countering Digital Hate (CCDH) durchgef\u00fchrte Untersuchung hat besorgniserregende Schwachstellen in f\u00fchrenden Bildgeneratoren mit k\u00fcnstlicher Intelligenz (KI) aufgedeckt, die hinsichtlich ihres potenziellen Missbrauchs im Zusammenhang mit Wahlen Alarm schlagen. Die von CCDH ver\u00f6ffentlichte Studie zeigt die Anf\u00e4lligkeit bekannter KI-Bildgeneratoren wie Midjourney, DreamStudio von Stability AI, ChatGPT Plus von OpenAI und Microsoft Image Creator f\u00fcr Manipulationen. Die Forscher fanden heraus, dass diese Plattformen dazu veranlasst werden k\u00f6nnen, irref\u00fchrende wahlbezogene Bilder zu produzieren, was eine gro\u00dfe Herausforderung bei der Bek\u00e4mpfung politischer Fehlinformationen darstellt. Trotz der Zusicherungen einiger KI-Firmen hinsichtlich ihres Engagements bei der Bek\u00e4mpfung von Risiken im Zusammenhang<\/p>\n","protected":false},"author":2,"featured_media":13149,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[349],"tags":[13556,13563,12180,13558,13562,13560,13559,10705,13561,13557],"class_list":["post-13169","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technik","tag-ai-bildgeneratoren","tag-demokratische-prozesse","tag-desinformation","tag-irrefuhrend","tag-ki-plattformen","tag-politische-fehlinformation","tag-prasidentschaftskandidaten","tag-schwachstellen","tag-wahlbezogene-bilder","tag-zentrum-fur-die-bekampfung-des-digitalen-hasses","style--link-4"],"yoast_head":"\n