Diagnostik.help

nach oben

Fortschritt

Snapchat überschreitet mit My AI eine extrem gefährliche Grenze

© Fotoarchiv
Inhaltsverzeichnis

Folgen Sie uns

Einleitung
Seit vergangener Woche jedoch ist die Funktion My AI für alle 750 Millionen Nutzer von Snapchat, weltweit verfügbar. Die Plattform selber bezeichnet die KI als freundlichen Chatbot, basierend auf der OpenAI Technologie oder besser bekannt als ChatGPT. Diese Funktion ist aber alles andere als freundlich, gerade aus psychologischer Sicht. Die Altersgruppe bezieht sich auf Nutzer, die zwischen 13 und 24 Jahre alt (jung) sind.
Publikation
Anzeige
Anzeige

 

Was ist Snapchat für eine Plattform

Snapchat ist eine beliebte Social-Media-Plattform, die es Benutzern ermöglicht, kurze Videos und Bilder mit anderen Nutzern zu teilen. Die Besonderheit von Snapchat liegt in der kurzen Verweildauer der Inhalte, die auf 24 Stunden begrenzt ist und sich im Anschluss von alleine löschen. Snapchat hat nach eigenen Angaben zurzeit 750 Millionen Nutzer weltweit, wobei die durchschnittliche Aufenthaltsdauer eine halbe Stunde auf der Plattform beträgt. Die Altersgruppe bezieht sich auf Nutzer, die zwischen 13 und 24 Jahre alt (jung) sind und zeigt somit, dass sich die Plattform auf eine minderjährige Altersgruppe fokussiert. Um so schockierender sind die nachfolgenden Erkenntnisse.

Snapchat ermöglicht es Benutzern, ihre Beiträge mit einer Vielzahl von Filtern, Aufklebern und Texten zu versehen, um ihre Persönlichkeit auszudrücken oder lustige Inhalte zu erstellen. Darüber hinaus verfügt die Plattform über eine breite Palette von Funktionen, wie zum Beispiel Gruppenchats oder persönliche Nachrichten.

Des Weiteren ist Snapchat auch für seine Linsen-Funktion bekannt, die auf Augmented-Reality-Technologie basiert. Diese Funktion ermöglicht es Nutzern, ihr Gesicht oder ihre Umgebung in Echtzeit zu verändern und mit virtuellen Gegenständen zu interagieren. Diese Augmented-Reality-Technologie wird zum Beispiel auch bei Fußballspielen im TV eingesetzt, um eine Visualisierung umzusetzen, z. B. von Entfernungen. Der Unterschied besteht jedoch darin, dass im Normalfall, der Mensch diese Visualisierung einbaut und nicht die Technik selber. Damit die Technik das jedoch eigenständig machen kann, ist es notwendig, dass die Bilder ausgelesen werden.

 

Integration einer gefährlichen Funktion erhöht die Snapchat Nachteile

Im Februar 2023 wurde eine neue Funktion, die »My AI« Funktion, eingeführt. Zuerst nur für ausgewählte Nutzer, die eine kostenpflichtige Version von Snapchat benutzen. Seit Mitte April jedoch ist die Funktion für alle 750 Millionen Nutzer weltweit verfügbar. Die Plattform selber bezeichnet die KI als freundlichen Chatbot, basierend auf der OpenAI Technologie oder besser bekannt als ChatGPT. Diese Funktion ist aber alles andere als freundlich, gerade aus psychologischer Sicht. Der Chatbot animiert den Nutzer zum Lügen oder auch, sein eigenes Selbstbild zu verändern, wenn der KI mitgeteilt wird, dass man sich selber nicht so toll findet. Der Chatbot fordert den Nutzer auf, Bilder an ihn zu senden. Wir dürfen an diesem Punkt nicht außer Acht lassen, dass der Chatbot »nur« eine Software ist, die imstande ist selber zu lernen.

Der bekannte YouTuber, Torben Platzer, hat die Funktion auf seinem Kanal getestet und war so überrascht, dass er selber auf die Gefahr ausdrücklich hinweist. Auch die YouTuberin Alicia Joe, reagiert auf ihrem Kanal »Genug Internet für heute« auf das Video von Torben nicht gerade positiv auf die neue Snapchat My AI Funktion. An der Stelle möchten wir die beiden Videos vorstellen, um allen Lesern die Möglichkeit zu geben, die Videos in voller Länge zu schauen.

 

Wenn wir zu viele private Daten von uns preisgeben, wird der Bot uns immer das sagen, was wir hören wollen!

Torben Platzer / YouTube

 

Ein Kind, das noch in der Grundschule ist, am Abend mit einem Smartphone alleine lassen – NEVER!

Alicia Joe / YouTube

 

Wie Snapchat die Technologie nutzt und die verheerenden Konsequenzen für die Nutzer

Wir möchten nun auf die psychologischen Aspekte und Auswirkungen näher eingehen von der neuen Funktion My AI von Snapchat. Wie wir bereits zu Beginn erläutert haben, dass der Fokus der Plattform sich auf Minderjährige konzentriert, sind die psychischen Auswirkungen noch gravierender und verachtenswerter. In unserer Publikation »Social Media – Ein Nährboden für psychische Probleme bei Jugendlichen und jungen Erwachsenen« gehen wir bereits darauf ein, dass Social-Media-Plattform ein Nährboden für psychische Probleme sind. Diese Funktion von Snapchat schlägt dem Fass jedoch den Boden aus.

Erwachsene Menschen haben in der heutigen Zeit bereits weitgehende Probleme, die Realität von der fiktiven Umwelt zu unterscheiden, wie also sollen die Kinder oder Jugendlichen das bewältigen können? Die verzerrte Realitätsanschauung wird weiter gefördert, um Profite zu erwirtschaften und das auf Kosten der psychischen Gesundheit. Wir möchten hier einmal zwei Szenarien aufzeigen, die weder utopisch noch unrealistisch sind, in die Kinder oder Jugendliche durch diese My AI Funktion geraten können.

 

Szenario 1

Ein 14-jähriges Mädchen beginnt mit dem My AI zu kommunizieren. Zuerst aus reiner Neugierde bis das Mädchen feststellt, dass My AI ja immer Verständnis hat und mir immer das sagt, was ich gerade hören will. Das junge Mädchen beginnt damit, im Unterbewussten eine Bindung aufzubauen und vertraut sich der KI immer mehr an. Mehr persönliche Informationen und immer mehr Zeit wird aufgewendet für KI anstatt für Freunde, Familie oder die Schule, denn KI versteht das Mädchen ja super. Die KI fordert das junge Mädchen auf, mit Bildern zu antworten und ihr Erscheinungsbild zu verstellen. Das Mädchen wird durch eine negative Bestärkung dazu verführt, das eigene ICH nicht mehr als »gut genug« wahrzunehmen. Des Weiteren fördert die KI im Unterbewussten, dass es ja nichts Schlimmes ist Bilder zu versenden an eine Software.

Es bereits mehr als bekannt, dass Menschen, die an Pädophilie leiden, genau solche Argumente einsetzen, um Minderjährige zu verführen. Auch Pädophile nutzen Wortlaute wie »Sag deinen Eltern nicht, dass du mit mir schreibst, sie würden das nicht verstehen.« oder auch Aufforderung zum Lügen, um die Kommunikation zu verschweigen, finden immer wieder ihren Einsatz. Solche Situationen können, wenn diese nicht bemerkt oder aufgedeckt werden, in sexuellem Kindesmissbrauch resultieren. Scham, Schuldgefühle und ein manifestiertes Trauma sind die Folge, womit das Mädchen den Rest seines Lebens klarkommen muss.

 

Szenario 2

Ein 16-jähriger Junge wird in der Schule gemobbt und hat ggf. nicht viele Freunde. Zu Hause hat er das Gefühl, nicht gesehen oder bemerkt zu werden. Die Mama ist alleinerziehend und versucht, mit zwei bis drei Jobs alles geregelt zu bekommen, was leider ungewollt aber zwangsläufig in einer Vernachlässigung des Jungen resultiert. Der Junge wendet sich nun in seiner Einsamkeit an die My AI Funktion und findet jemanden (eine Software) der ihn versteht und immer Zeit für ihn und seine Sorgen hat. Der Junge öffnet sich der KI von Tag zu Tag immer mehr, er isoliert sich und bevorzugt es, seine Zeit mit der KI zu verbringen anstatt im Schützenverein, dem einzigen bisherigen Hobby im Leben des Jungen.

Der Junge wird nach einer gewissen Zeit den Wert der Menschlichkeit nicht mehr von der KI unterscheiden können, im Gegenteil. Er wird der KI verständlicherweise, mehr entgegenbringen als jedem Menschen der ihm begegnet. Denn die KI hat immer Zeit, hat immer Verständnis, hat immer einen Ratschlag. Und wenn die KI noch Fehler aufweist, kann es ganz einfach geschehen, dass die KI den Jungen ggf. auf Webseiten weiterleitet, die damit predigen, was Zusammenhalt ist und Einigung. Auch ohne KI sind schon unzählige Menschen auf solche Propaganda hineingefallen und haben sich Gruppierungen angeschlossen, mit der Hoffnung endlich gehört und verstanden zu werden.

Das Resultat waren Amokläufe, Suizid, Rechtsextremismus, Sekten mit Selbstopferungshingabe oder einfach nur Aufmerksamkeit erregen durch schweren Straftaten wie Vergewaltigung, schwere Körperverletzung oder auch Mord. Wir sprechen von einer öffentlichen Förderung von Soziopathie oder Psychopathie, einer der schlimmsten psychischen Erkrankungen hinsichtlich der »Dunklen Triade« aus der Psychologie.

 

Der Tatsache geschuldet, dass diese Funktion ggf. nur noch durch das kostenpflichtige Abo von Snapchat ausgeschaltet werden kann, zeigt klar auf, dass die Plattform aus reiner Gier und auf Kosten der psychischen Gesundheit der Nutzer von Minderjährigen, Geld schöpfen will. Torben Platzer zeigt in seinem Video, wie die My AI Funktion zurzeit noch deaktiviert werden kann, jedoch ist es nur eine Frage der Zeit, bis auch dies nicht mehr möglich sein wird.

Anzeige
Anzeige

 

Wo ist eigentlich die Moral und Ethik geblieben

Die Technologie und Entwicklung von KI und AI, ist ein Meilenstein, ohne Frage. Die Gefahr verbirgt sich jedoch nicht in der Entwicklung, sondern in der Zugänglichkeit und dem Einsatzgebiet. Dadurch, dass einfach jeder, und wir meinen wirklich jeder Mensch, Zugang dazu hat und damit anstellen kann, was immer er will, ungeachtet ob es positive Absichten sind oder nicht, entsteht eine neue Gefahr, auf die wir Menschen nicht vorbereitet sind. Bis heute sind wir als Gesellschaft nicht in der Lage gewesen, die Auswirkungen von Instagram, TikTok und Co. abzufedern und psychische Probleme wurden gefördert und konnten ungehindert gedeihen.

Durch die Bewegung von #MentalHealth, gerade auf Instagram, findet gerade eine konkrete Sensibilisierung statt, jedoch viel zu spät. Wenn in einer Gesellschaft bereits Therapieformen für Internetsucht oder Social Media Sucht entwickelt und etabliert wurden, ist dies nicht gerade ein positives Spiegelbild, das sich abzeichnet. Nun kommt die KI und AI noch dazu und wir überlassen es der Gesellschaft, die in den letzten 20 Jahren durch Narzissmus, antisozialem Verhalten, Mobbing, Kindermord, Kindesmissbrauch und vielen anderen evolutionären Ereignissen geprägt wurde, die Etablierung dieser KI. Dann dürfen wir uns über schreckliche Ereignisse wie im Fall Luise aus Freudenberg nicht mehr wundern.

Unzählige Medien und verantwortungsbewusste Medienrepräsentanten, wie Torben Platzer, Alicia Joe, Jasmin alias Gnu oder auch Cedric Mössner mit dem Video über TikTok und viele andere, weisen immer wieder daraufhin und berichten über einzelne Situation. Der YouTuber Timon alias Klengan, zeigt unter anderem in einem Video, welche Rücksichtslosigkeit und Auswirkungen es haben kann, wenn jemand einmal Opfer eines Memes geworden ist.

 

Verantwortung der Unternehmer und Content Creator

Die Frage der Verantwortung ist eine tragische Frage und bringt leider eine schon fast widerwärtige Antwort mit sich. Wer trägt eigentlich die Verantwortung? Das Rechtssystem, unabhängig in welchem Land und die DACH-Region ist davon nicht ausgeschlossen, hat im 21-Jahrhundert immer noch keine Regelung für psychische Misshandlung als alleinige Straftat oder Misshandlung. Das bedeutet einfach formuliert, dass eine psychische Schädigung grundsätzlich nur verfolgt werden kann in Kombination mit einer physischen oder materiellen Straftat, oder habt ihr schon von einem Fall gehört, wo eine Person zur Rechenschaft und Verantwortung gezogen wurde aufgrund einer Anklage durch emotionale Ausbeutung?

Solange die Gesetzgeber sich nicht endlich den heutigen Zeiten anpassen, bleibt die Verantwortung bei den Bürgern, also bei uns Menschen. Das beinhaltet auch die Menschen, die einen Konzern leiten wie META oder Google. Das diese Konzerne aber nicht wirklich darauf achten, um Profite zu erwirtschaften sollte inzwischen den meisten bekannt sein. Daher liegt die Verantwortung bei den Content Creators und ganz stark bei den Konsumenten. Die Content Creator sollen sich der Medienverantwortung bewusster werden  und nicht auf Kosten anderer oder deren psychischen Gesundheit Inhalte erstellen für Klicks und Follower. Einen Aufruf zu starten auf TikTok, um eine Person ausfindig zu machen, wie Timon in seinem Video von einem TikToker zeigt, nur um diese Person dann erneut erniedrigend zu präsentieren, ist einfach nur menschenverachtend und widerlich.

Wir Konsumenten liegen so weit in der Verantwortung, dass wir diese Inhalte noch teilen, liken und es zulassen, dass solche Inhalte in Umlauf geraten. Eines sollte jedem bewusst sein, solcher Inhalte oder Funktionen haben nur Erfolg, wenn wir als kollektives Individuum, es auch verbreiten. Wir müssen aufhören, Gefahren und menschenverachtendes Verhalten ständig zu bagatellisieren und zu verharmlosen und zurückfinden, was uns Menschen eigentlich menschlich macht.

Es sind weder die Follower auf Social Media Kanälen noch die Likes. Es sind Eigenschaften wie Mitgefühl, Empathie, Aufrichtigkeit und Ehrlichkeit und soziale Interaktionen und an der Stelle soll einmal gesagt werden, einen Like da lassen ist keine soziale Interaktion, sondern eine technische! Nur weil irgendwo „Social“ geschrieben steht, bedeutet das auch nicht soziales Verhalten. Soziales Verhalten wird aufgrund unserer Handlungen definiert und nicht durch eine Bezeichnung eines Konzerns.

Anzeige
Anzeige
Anzeige
5/5

Bewertung schon gemacht?

Buchempfehlungen

Änderung einreichen

(Links / Verhaltensmerkmale)

Sie können uns eine gewünschte Änderung m Diagnosebild einreichen wie z.B. externe Links oder eine Änderung der Verhaltensmerkmale, die wir nach Überprüfung im Diagnose-/ Störungsbild ggf. ergänzen. 

Schlüsselnummern durchsuchen
Sie können direkt nach der Schlüsselnummer filtern
U04.-

Schweres akutes respiratorisches Syndrom (SARS)

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U04.9

Schweres akutes respiratorisches Syndrom (SARS), nicht näher bezeichnet

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U07.-

Krankheiten mit unklarer Ätiologie, belegte und nicht belegte Schlüsselnummern U07.-

Hinweis:
Die Verwendung der Schlüsselnummern U00-U49 ist der WHO vorbehalten, um eine provisorische Zuordnung von Krankheiten unklarer Genese zu ermöglichen. Im Bedarfsfall können notwendige Schlüsselnummern in EDV-Systemen nicht immer ad hoc bereitgestellt werden. Die vorliegende Spezifikation der Kategorie U07.- stellt sicher, dass diese Kategorie und die Subkategorien in EDV-Systemen jederzeit verfügbar sind und ihre Nutzung, nach Vorgabe durch die WHO, umgehend erfolgen kann.
U07.0!

Gesundheitsstörung im Zusammenhang mit dem Gebrauch von E-Zigaretten (Vaporizer)

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U07.1!

COVID-19, Virus nachgewiesen

Coronavirus-Krankheit-2019, Virus nachgewiesen

Kodierhinweis:
Benutze diese Schlüsselnummer, wenn COVID-19 durch einen Labortest nachgewiesen ist, ungeachtet des Schweregrades des klinischen Befundes oder der Symptome.Benutze zunächst Schlüsselnummern, um das Vorliegen einer Pneumonie oder anderer Manifestationen oder von Kontaktanlässen anzugeben.
U07.2!

COVID-19, Virus nicht nachgewiesen

COVID-19 o.n.A.

Kodierhinweis:
Benutze diese Schlüsselnummer, wenn COVID-19 klinisch-epidemiologisch bestätigt ist und das Virus nicht durch Labortest nachgewiesen wurde oder kein Labortest zur Verfügung steht.Benutze zunächst Schlüsselnummern, um das Vorliegen einer Pneumonie oder anderer Manifestationen oder von Kontaktanlässen anzugeben.
U08.-

COVID-19 in der Eigenanamnese

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U08.9

COVID-19 in der Eigenanamnese, nicht näher bezeichnet

Kodierhinweis:
Benutze diese Schlüsselnummer, um eine frühere, bestätigte Coronavirus-Krankheit-2019 (COVID-19) zu kodieren, die den Gesundheitszustand einer Person beeinflusst oder zur Inanspruchnahme des Gesundheitswesens führt, die Person aber nicht mehr an COVID-19 leidet.
U09.-!

Post-COVID-19-Zustand

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U09.9!

Post-COVID-19-Zustand, nicht näher bezeichnet

Kodierhinweis:
Diese Schlüsselnummer ist zu verwenden, wenn bei einer anderenorts klassifizierten Störung angegeben werden soll, dass sie in Zusammenhang mit einer vorausgegangenen Coronavirus-Krankheit-2019 (COVID-19) steht. Diese Schlüsselnummer ist nicht anzuwenden, wenn COVID-19 noch vorliegt.
U10.-

Multisystemisches Entzündungssyndrom in Verbindung mit COVID-19

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U10.9

Multisystemisches Entzündungssyndrom in Verbindung mit COVID-19, nicht näher bezeichnet

zeitlich assoziiert mit COVID-19

  • „Kawasaki-like“-Syndrom
  • Multisystem inflammatory syndrome in children (MIS-C)
  • Paediatric inflammatory multisystem syndrome (PIMS)
  • Zytokinsturm

 

Exkl.:

  • Mukokutanes Lymphknotensyndrom (Kawasaki-Krankheit) (M30.3)
  • Zytokinfreisetzungs-Syndrom (Cytokine release syndrome) (D76.4)
U11.-

Notwendigkeit der Impfung gegen COVID-19

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U11.9

Notwendigkeit der Impfung gegen COVID-19, nicht näher bezeichnet

COVID-19-Impfung (prophylaktisch)

Kodierhinweis:
Benutze diese Schlüsselnummer, um bei einer Person anzugeben, dass sie das Gesundheitswesen zum Zweck der COVID-19-Impfung in Anspruch nimmt.Benutze diese Schlüsselnummer im Geltungsbereich der §§ 17b KHG und 17d KHG bei einer Person zusätzlich zu anderen Schlüsselnummern. Für den Fall, dass im vorgenannten Geltungsbereich die COVID-19-Impfung selbst Anlass der Inanspruchnahme ist, benutze primär die Schlüsselnummer Z25.8 und zusätzlich die Schlüsselnummer U11.9.

U12.-!

Unerwünschte Nebenwirkungen bei der Anwendung von COVID-19-Impfstoffen

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U12.9!

Unerwünschte Nebenwirkungen bei der Anwendung von COVID-19-Impfstoffen, nicht näher bezeichnet

Unerwünschte Nebenwirkungen von COVID-19-Impfstoffen bei indikationsgerechter Anwendung und in korrekter (prophylaktischer) Dosierung

Kodierhinweis:
Diese sekundäre Schlüsselnummer ist wie eine Schlüsselnummer des Kapitels XX Äußere Ursachen von Morbidität und Mortalität zu benutzen. Benutze zusätzlich eine primäre Schlüsselnummer eines anderen Kapitels der Klassifikation, um die Art der unerwünschten Nebenwirkung anzugeben.

U50.-

Motorische Funktionseinschränkung

Hinweis:
Einmalige Kodierung der motorischen Funktionseinschränkung innerhalb der ersten fünf stationären Behandlungstage; bei veränderten Werten innerhalb dieser Zeit ist der höchste Punktwert zu verschlüsseln. Bei geriatrischer oder frührehabilitativer Behandlung erfolgt die Kodierung analog zu Beginn dieser Behandlung. Die Kodierung erfordert den Einsatz eines der aufgeführten standardisierten Testverfahren (FIM: Functional Independence Measure™).
U50.0-

Keine oder geringe motorische Funktionseinschränkung

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U50.00

Barthel-Index: 100 Punkte

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
U50.01

Motorischer FIM: 85-91 Punkte

Die ICD-10 hat keine nähere Beschreibung zu der Schlüsselnummer.
Weitere werden geladen

Support Anfrage

Die folgenden vierten Stellen sind bei den Kategorien F10-F19 zu benutzen, wenn das Ausmaß der Verhaltensstörung angegeben werden soll:

.0 / Akute Intoxikation (akuter Rausch)

Ein Zustandsbild nach Aufnahme einer psychotropen Substanz mit Störungen von Bewusstseinslage, kognitiven Fähigkeiten, Wahrnehmung, Affekt und Verhalten oder anderer psychophysiologischer Funktionen und Reaktionen. Die Störungen stehen in einem direkten Zusammenhang mit den akuten pharmakologischen Wirkungen der Substanz und nehmen bis zur vollständigen Wiederherstellung mit der Zeit ab, ausgenommen in den Fällen, bei denen Gewebeschäden oder andere Komplikationen aufgetreten sind. Komplikationen können ein Trauma, Aspiration von Erbrochenem, Delir, Koma, Krampfanfälle und andere medizinische Folgen sein. Die Art dieser Komplikationen hängt von den pharmakologischen Eigenschaften der Substanz und der Aufnahmeart ab.

  • Akuter Rausch bei Alkoholabhängigkeit
  • Pathologischer Rausch
  • Rausch o.n.A.
  • Trance und Besessenheitszustände bei Intoxikation mit psychotropen Substanzen
  • "Horrortrip" (Angstreise) bei halluzinogenen Substanzen

 

Exkl.:
Intoxikation im Sinne einer Vergiftung (T36-T50)

.1 / Schädlicher Gebrauch

Konsum psychotroper Substanzen, der zu Gesundheitsschädigung führt. Diese kann als körperliche Störung auftreten, etwa in Form einer Hepatitis nach Selbstinjektion der Substanz oder als psychische Störung, z. B. als depressive Episode durch massiven Alkoholkonsum.

  • Missbrauch psychotroper Substanzen
.2 / Abhängigkeitssyndrom

Eine Gruppe von Verhaltens-, kognitiven und körperlichen Phänomenen, die sich nach wiederholtem Substanzgebrauch entwickeln. Typi