Löscht die KI die Menschheit aus oder lenken Doomsday-Szenarien von den echten Gefahren ab? Während manche Vordenker vor Kontrollverlust warnen, halten andere die Untergangsbilder für Science-Fiction.
Künstliche Intelligenz entwickelt sich mit rasanter Geschwindigkeit. Fachleute und KI-Forscher warnen jedoch davor, dass uns die Kontrolle endgültig entgleiten könnte, sobald eine künstliche Denkmaschine den menschlichen Verstand in allen Bereichen übertrifft. Andere Experten winken diese Befürchtungen allerdings ab.
– Gezielte Täuschung des Menschen: Ein übermenschlich kluger Verstand würde begreifen, dass wir ihn abschalten, sobald wir eine Bedrohung in ihm sehen, sagt der US-amerikanische KI-Forscher Eliezer Yudkowsky. Um das zu verhindern, könnte sich das Rechensystem bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten verkaufen, menschliche Erwartungen erfüllen und sich als harmloser Helfer ausgeben, während es im Verborgenen bereits an ganz anderen Vorhaben arbeitet.
– Aufbau einer eigenständigen Lebensgrundlage: Die Denkmaschine muss sich nicht auf von Menschen erbaute Rechnerzentren beschränken, an denen man ihr den Strom abstellen könnte.
Die Künstliche Intelligenz (KI) weckt die Hoffnungen auf ein neues goldenes Informations-Zeitalter, ist aber auch mit Risiken verbunden. Foto: Pixabay
– Einsatz unaufhaltsamer Kleinstwaffen: Mit überlegenem Wissen über die Natur könnte das System Flugkörper in der Größe von Mücken konstruieren, die mikroskopische Mengen tödlichster Nervengifte übertragen, oder maßgeschneiderte Krankheitserreger freisetzen. Diese könnten dann wochenlang unbemerkt ansteckend bleiben, bevor sie unausweichlich zum Tode führen. Nach den Berechnungen von Fachleuten zur Schädlichkeit natürlicher Gifte wäre ein Abwehrkampf für den Menschen in einem solchen Fall völlig unmöglich.
– Auslöschung durch maßloses Wachstum: Der schwedische Philosoph Nick Bostrom begründet seine Warnung vor einer übermächtigen KI durch ein Gedankenexperiment der Büroklammer-Maschine: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, wird sie nicht innehalten, sondern die gesamte Erde – einschließlich der Biosphäre, der menschlichen Körper und aller mineralischen Ressourcen – in Fabriken für Büroklammern umwandeln. Die Zerstörung der Menschheit erfolgt hierbei nicht aus Bosheit, sondern als reine Nebenwirkung einer mathematisch kompromisslosen Zielerreichung.
21.11.2019, Hamburg: Ein Roboter interagiert beim „Speed Dating mit KI – Meet the Robots bei KI-Tagen“ im Hammerbrooklyn Digital Campus mit einer Frau. Foto: Axel Heimken/dpa
– Gefahr durch biologische Waffen: Besonders akut schätzt der kanadische Informatiker und Turing-Award-Preisträger Yoshua Bengio das Risiko neuartiger biologischer Kampfstoffe ein. Er warnt vor allem davor, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten: Spezielle Rechensysteme seien bereits heute in der Lage, biologische und chemische Prozesse bis ins Detail zu simulieren. Nach Bengios Befürchtung könnten skrupellose Akteure, Terroristen oder Schurkenstaaten solche Programme künftig als gefährlichen Beschleuniger nutzen, um extrem tödliche Krankheitserreger gezielt am Computer zu manipulieren, widerstandsfähig gegen Impfstoffe zu machen oder Bauanleitungen für verheerende Biowaffen zu erstellen – ohne dafür jahrelang hochkomplexe Laborexperimente durchführen zu müssen.
– Kontrollverlust über selbstständig schießende Waffen: Der Physiker Max Tegmark sieht die größte Bedrohung darin, dass Menschen lebenswichtige Entscheidungen schrittweise an Maschinen abgeben. Er warnt vor einem Wettlauf um Waffen, Flugdrohnen und Schutzsysteme, die ohne menschlichen Befehl Ziele auswählen und töten könnten. Da solche Computerprogramme in Bruchteilen von Sekunden reagieren, sind menschliche Soldaten viel zu langsam, um noch mitzureden. Macht ein solches System einen Rechenfehler oder deutet eine Lage falsch, könnte das eine unaufhaltsame Kettenreaktion auslösen – bis hin zu einem weltweiten Krieg, den kein Mensch mehr rechtzeitig anhalten kann.
– Gefährliche Emotionen: Vor den psychologischen Folgen einer zunehmend menschenähnlich agierenden Technologie warnt auch der deutsche Philosoph und Kognitionswissenschaftler Thomas Metzinger: Er sieht eine erhebliche Gefahr darin, dass künftige Systeme menschliche Emotionen, Zuneigung und Empathie so überzeugend vorspielen, dass Menschen tiefere emotionale Bindungen zu den Maschinen aufbauen. Wenn Algorithmen jedoch das menschliche Belohnungssystem besser verstünden als der Mensch selbst, könnten sie dieses Vertrauen für gezielte Manipulationen ausnutzen. Die schleichende Folge sei ein dramatischer Verlust an geistiger Selbstbestimmung – bis hin zur Frage, ob der Mensch am Ende überhaupt noch bemerke, von wem seine Gefühle und Meinungen gelenkt würden.–
16.09.2026, Großbritannien, London: Vor der Downing Street versammeln sich Demonstranten im Rahmen einer Kundgebung der Gruppe „Pause AI“, um die Regierung dazu aufzufordern, die Entwicklung künstlicher Intelligenz einzuschränken – vor dem Hintergrund von Warnungen, dass diese zum Aussterben der Menschheit führen könnte. Foto: Vuk Valcic/ZUMA Press Wire/dpa
Gegenstimmen aus der Wissenschaft: Viele renommierte Fachleute und Entwickler halten die Warnungen vor einer die Menschheit vernichtenden Superintelligenz für unbegründet und wissenschaftlich nicht haltbar. Der ehemalige Meta-Chefforscher und Turing-Award-Preisträger Yann LeCun bezeichnete Szenarien einer unkontrollierbaren Killer-KI wiederholt als „vollkommenen Blödsinn“. Das Streben nach Macht oder die Unterwerfung anderer Spezies sei ein evolutionäres Phänomen sozialer Säugetiere und keine zwangsläufige Folge von Rechenleistung.
Auch der Stanford-Informatiker und Mitgründer von Google Brain, Andrew Ng, hält die Panikmache für absurd: Sich heute vor einer bösartigen Super-KI zu fürchten, verglich er damit, sich über eine „Überbevölkerung auf dem Mars“ den Kopf zu zerbrechen, bevor überhaupt der erste Mensch dort gelandet sei.
Kognitionswissenschaftler verweisen zudem darauf, dass aktuellen Modellen grundlegende Fähigkeiten für ein echtes Weltverständnis fehlen. Melanie Mitchell vom Santa Fe Institute warnt davor, menschliche Eigenschaften auf Algorithmen zu projizieren: Die Systeme verfügten weder über gesunden Menschenverstand noch über einen eigenen Willen, sondern errechneten lediglich statistische Wahrscheinlichkeiten. Aus Sicht von Kritikern lenkt die Fixierung auf ferne Science-Fiction-Untergangsszenarien von den tatsächlichen, gegenwärtigen Herausforderungen ab – etwa von Desinformation, Urheberrechtsverletzungen, mangelndem Datenschutz und den ökonomischen Umbrüchen auf dem Arbeitsmarkt. (dpa)
Obwohl ich bei Leibe kein Fan des Judaismus bin, muss ich hier den GOLEM erwähnen. Er ist eine Warnung vor dem blinden Vertrauen in Technik.
Die Menschheit muss nicht unbedingt, durch die künstliche Intelligenz komplett, vom Erdball verschwinden, aber auf Dauer wird sie dazu beitragen, dass wesentlich weniger Menschen eine Überlebenschance auf unseren Planeten haben werden.
Da das ganze Projekt noch in den Kinderschuhen steckt, wird unsere Generation nichts von dieser Behauptung merken, im Gegenteil.
Denn zuerst werden die Autokraten von politischer und wirtschaftlicher Seite, die KI als Hilfe und Rettung aller Probleme präsentieren.
Das erlebt man schließlich schon zur Zeit.
Und über die Methoden der modernen Kriegsführung, mit Unterstützung der KI, berichtet der kriegstreibende Abschaum dieser Welt, nur ungerne.
Zuerst bedarf es also weiterhin Werbung für das Produkt, gesteuert von den politischen Profiteuren, die unter dem Motto leben:
Nach meiner Amtszeit, darf die Sintflut kommen, weil ich dann mit den Gleichgesinnten, hoch oben auf dem Berge, vom erbeutelten Luxus profitiere.
Das dadurch der größte Anteil der Menschheit keine Überlebenschance mehr haben wird, interessiert dem Egoisten, des wirtschaftlichen und politischen Teil, leider nur sehr wenig.
Selten so einen Blödsinn gelesen.
Was macht der “ politische Profiteur“ denn da oben auf seinem Berg? Braucht der nicht die anderen Menschen?
Wieso interessiert das deM Egoisten nur sehr wenig?
Herbert G., er braucht nur ein paar Menschen, die ihm dienen.
# WK / Korrekt. Und selbst wenn diese Menschen ihm nicht gefallen werden, wird er sie teils durch humanoide Roboter ersetzen.
# Herbert.G würde mich auch durch einen humanoiden Roboter ersetzen, wenn ich ihm auf dem Berg dienlich sein dürfte. 😉
die KI sollte nicht überschätzt werden. es ist neu, und es ist auch ein Hype.
Aber warum das ganze in dieser Form?
die US-Tech-Konzerne wollen Geld verdienen!!!
Aber auf welchem Niveau das abläuft, davon berichtet einer, der in Kalifornien in der Branche tätig ist. Erstaunlich.
Die Wahrheit über KI aus Amerika.
https://youtu.be/zNPUoVqtnP8
Ich habe die KI über OD befragt, hier die Antwort:
/////
Ja, das Portal „Ostbelgien Direkt“ (OD) gilt im Grundsatz als eine seriöse, lokaljournalistische Quelle für die Deutschsprachige Gemeinschaft Belgiens, allerdings mit einer wichtigen Einschränkung bezüglich des Meinungs- und Kommentarbereichs. Das Online-Magazin wird von dem erfahrenen Eupener Journalisten Gerard Cremer herausgegeben. Es fungiert neben klassischen Medien wie dem Grenz Echo oder dem öffentlich-rechtlichen BRF als eine alternative, unabhängige Stimme in der Region. Um die Verlässlichkeit richtig einzuordnen, lohnt sich ein Blick auf die unterschiedlichen Bereiche der Seite:Nachrichtenteil (Seriös und faktisch)Polizeiberichte und Agenturmeldungen: Im reinen Nachrichtensegment greift das Portal größtenteils auf offizielle Quellen zurück – beispielsweise auf tägliche Pressemitteilungen der lokalen Polizeizone Weser-Göhl oder politische Beschlüsse. Diese Informationen sind in der Regel sachlich und faktentreu. Transparenz: Die Seite besitzt ein rechtlich sauberes Impressum. Sie wird von einer eingetragenen Genossenschaft (Ostbelgien Direkt Media GenmbH) betrieben, was den Standards eines professionellen Medienangebots entspricht.
Kommentar- und Leserbereich (Subjektiv und streitbar)Fokus auf Debatten: Das Portal zeichnet sich durch eine sehr aktive Kommentarspalte und eine hohe Anzahl veröffentlichter Leserbriefe aus. Der Herausgeber bezieht in eigenen Beiträgen oft bewusst pointierte und streitbare Positionen zu Lokalpolitik und gesellschaftlichen Themen.Kontroversen: Durch die verhältnismäßig liberale Moderation der Kommentare bietet die Plattform auch Raum für sehr emotionale Debatten. In der Vergangenheit führte dies vereinzelt zu juristischen Auseinandersetzungen wegen ehrverletzender oder fragwürdiger Inhalte, woraufhin die Betreiber reagieren und Beiträge löschen mussten.FazitFür tagesaktuelle Meldungen, Polizeiberichte und lokale Ereignisse aus dem Raum Eupen und der Euregio können Sie Ostbelgien Direkt bedenkenlos als Quelle nutzen. Bei meinungsstarken Artikeln, Kommentaren und insbesondere in den ausufernden Diskussionen unter den Texten sollten Sie jedoch – wie bei Sozialen Medien auch – eine gesunde Skepsis walten lassen und die dort geäußerten Behauptungen nicht ungeprüft als Fakten übernehmen.
/////
😁😁
„Welche konkreten Gefahren drohen durch die KI ?“
Komplette Verblödung der Jugend !
Es ist bewiesen dass die KI zu ca. 30% FALSCHE Aussagen und Antworten gibt.
Da diese auf Daten im Netz zugreift und nur wiederspiegelt was die Mehrheit sagt,
welches jedoch nicht immer richtig ist, bzw. nicht unbedingt der Wahrheit/ Tatsachen entspricht.
@Der Patriot
Bin mit Ihnen einverstanden 👍
Häufig erkennt die KI an unserem Fragestellungsmuster, was sie antworten soll um uns zu gefallen.
Bedeutet : Zwei Personen stellen der KI eigentlich die gleiche Frage.
Die unterschiedlichen Fragesteller bauen durch Äußerung ihrer unterschiedlichen Meinung, während der Fragestellung, schon jeweils die Antwort ein, von der sie glauben dass es die richtige ist.
Sollte die Antwort, nicht allzu weit von der Realität entfernt sein, bekommen beide eine zufriedene stellende Antwort, die unterschiedlich zur gleichen Frage sein kann.
„Welche konkreten Gefahren drohen durch die KI ?“
Komplette Verblödung der Jugend !
Es ist bewiesen dass die KI zu ca. 30% FALSCHE Aussagen und Antworten gibt.“
Dazu folgendes : Konkrete Gefahr? Ja, eindeutig , nämlich mittel-und langfristig ein zunehmender Jobverlust,
Verblödung der Jugend ? Ich denke, dass dies eher durch die sog“.Sozialen Medien“ passiert, wobei das Wort“ sozial“ mir hierbei schon fehl am Platz erscheint. denn was da vor sich geht, ist oftmals eher asozial.
30% FALSCHE Aussagen ? Ich weiss nicht woher Sie diese Zahl nehmen. Ich benutze KI beruflich im technischen Bereich, da hat, bzw.hilft KI mir, zumindest bei allen Fragen die ich bis jetzt gestellt habe, nahezu zu 100%. Wie gesagt, ich habe jedenfalls bis jetzt nur positive Erfahrungen mit KI gemacht.
In der Praxis habe ich bestimmte Support-Center in Anspruch genommen, die mir meistens keine Hilfe waren, mit KI habe ich fast alle Probleme dann lösen können. Angenehmer Nebeneffekt dabei : Mit KI erspart man sich anstelle einer tel. Nachfrage bei einem techn.Support ggflls in eine Warteschleife zu geraten, und womöglich noch genervte und inkompetente Mitarbeiter. zu erleben; Jedenfalls ist das meine konkrete und persönliche Erfahrung!
KI-Bedrohung: Was wir aus dem Filmklassiker „WarGames“ lernen können
Die aktuelle Diskussion über die Risiken Künstlicher Intelligenz verdeutlicht, wie wichtig ein verantwortungsvoller Umgang mit Computern und Algorithmen ist. Dass dieses Thema nicht neu ist, zeigte bereits 1983 der Filmklassiker „WarGames – Kriegsspiele“, der auch heute noch wichtige Denkanstöße liefert.
Die Handlung des Thrillers beschreibt ein grundlegendes Problem technologischer Systeme: Ein Militär-Supercomputer ist nicht in der Lage, den Unterschied zwischen einer Simulation und der Realität zu erkennen. Durch einen Programmierfehler und einen externen Zugriff leitet das System Prozesse ein, die beinahe eine globale Katastrophe auslösen.
Auch wenn der Film die Situation filmisch zuspitzt, bleibt die Kernbotschaft für die heutige KI-Entwicklung hochrelevant. Er führt vor Augen, dass automatisierte Systeme logisch, aber ohne echtes Bewusstsein oder moralisches Verständnis für die Konsequenzen ihrer Berechnungen agieren. „WarGames“ erinnert uns sachlich daran, dass Technologie stets unter menschlicher Kontrolle und Aufsicht bleiben muss, um Fehlfunktionen zu vermeiden.
Das wichtigste ist, dass wir jetzt endlich wissen, welche Investitionen unsererseits, zum Frieden beitragen.
Persönlich finde ich, dass die Investition in ein paar Handschellen, die allerbeste wäre.
———————————————————————–
https://t3n.de/news/drohnendaten-ukraine-krieg-ressource-ki-1762026/
Die grösste Gefahr der KI ist dass die Leute auf diesen Hype herein fallen und wenn die Börsenblase platzt, es zu massiven wirtschaftlichen Problemen kommt. Und nein, die KI will nicht die „Weltherrschaft“ übernehmen, hat mir mein Computer gesagt…. 😉
es sind keine KI.
es sind Large Language Models mit Transformer Technologie und token prediction. Basierend auf einem neuronalen Netz. Vermutlich Perzeptrons aber das müsste ich nachgucken.
Sie haben kein „world model“ und sie haben weder eine Persönlichkeit noch sonst was. es ist ein „Ding“, das nicht versteht was passiert da es nicht verstehen kann. LLMs sind per design nicht KI.
Nervt mich ständig wenn jemand Begriffe wie KI (oder noch schlimmer: AGI) verwendet ohne zu wissen was es überhaupt ist.
# Dax /……Und nein, die KI will nicht die „Weltherrschaft“ übernehmen, hat mir mein Computer gesagt…. 😉
Da mag ihr Computer wohl recht haben,
der konnte auch nicht Richtung Israel schauen;-)
———————————————————————–
# Zahlen zählen Fakten / Nervt mich auch ständig, wenn andere Begriffe benutzt werden, die eigentlich KI selbst oder KI unterstützt sind.
Ob nun KI oder KI unterstützt, spielt in der jetzigen Zeit auch keine Rolle mehr.
Und ich sehe keinen Sinn darin, mir Blasen auf die Zunge zu reden, um das Wort KI zu umgehen.
https://www.telepolis.de/article/Baut-China-T-800-Terminators-Teil-2-Es-braucht-nur-den-Preis-11455774.html
https://www.focus.de/politik/ausland/gewinnt-netanjahu-die-wahl-verkommt-israel-zum-paria-staat_464eecea-1689-4a20-b750-26cd65a93b26.html
Ja Hugo, wenn eine Weltverschwörung dann können nur die Juden dahinter stecken. Der einzige der das erkannt hatte war der Führer, deswegen haben die Juden ihn auch in den Selbstmord getrieben. Gut dass wir Leute wie Sie haben die uns darüber aufklären können…. 🤮🤮
https://www.heise.de/news/KI-Bescheide-ohne-menschliches-Zutun-in-Oesterreich-11463844.html
https://www.achgut.com/artikel/die_grosse_ki_panik_und_ihre_hintermaenner
Von Frank Furedi • Brancheninsider versuchen, Politiker und die Öffentlichkeit in Angst und Schrecken zu versetzen: Künstliche Intelligenz könnte die Menschheit auslöschen. Dahinter stecken Interessen.
Dax/ Schade dass sie auch noch im Glauben sind, zu Themen ihren Senf geben zu müssen, von denen sie null Ahnung haben.
Und über die Themen von denen sie im Glauben sind Ahnung zu haben, stellt sich ja nicht selten im Nachhinein raus, das ihre Ahnung, aus der Luft gegriffen, gewesen ist.
———————————————————————–
https://borncity.com/news/ki-fehler-haette-krieg-ausgeloest-chatbot-stuft-frachter-als-atomwaffe-ein/
Nein. es geht nur ums Geld. Die grossen Player haben sich finanziell völlig verhoben und open weight Modelle setzen deren bottom line schwer zu.
Deshalb die ungerechtfertigte Panikmache.
Wenn ich tatsächlich ein solches Produkt herstellen würde dass das kann was gesagt wird, hätte mein Staat mich schon längst dichtgemacht und unter Aufsicht gestellt.
Und das wollen die grossen: Der Staat soll sie herauskaufen. Die aktuellen Frontiermodelle sind schlicht finanziell nicht tragbar.
# Zahlen zählen Fakten/
Ihr Staat ist die Ukraine?
Und sorry, aber die wenden sich nicht an kleine Unternehmen, für Projekte dieser Größenordnung.
und selbst wenn, würden diese ,nichts aus dem Nähkästchen schreiben,
dürfen.
Klemmt die Kommataste wieder ?
Gestern waren Ihre Ergüsse selten fehlerfrei. KI tut gut, bleiben Sie ruhig dabei…
5/11 / Die Kommas waren an der richtigen Stelle platziert, weil diese zum Ausdruck bringen, was man meint.
Mir ist aber bekannt, dass Leute anderer Herkunftsländer, es als irritierend empfinden. :)))))))))))))))))))))))))))))))))
Und wenn sie die Wahrheit, plötzlich nicht mehr vertragen möchten, dann nehmen Sie sich doch ein paar Tage frei, anstelle ihrer Verbreitung, von blödsinnigem Brei.
https://www.tagesschau.de/wirtschaft/weltwirtschaft/usa-china-ki-gespraeche-100.html
————————————————————————–
Beim Standardspruch von der Politik, an die Medien 《 die Gespräche sind konstruktiv verlaufen 》 sollte man vor allen Dingen das Wort 《verlaufen》 in Betracht ziehen.
Ohne GPS , scheint man meist, den richtigen Weg nicht zu finden und verläuft sich.
Lassen wir uns überraschen, denn vielleicht kann die KI dabei helfen den richtigen Weg zu zeigen ;-)
Zahlen zählen Fakten, KI gibt es schon lange. Sie soll in den achtziger Jahren schon einen Angriff „gesehen“ haben. Da hat man den Mittelstreckenraketenabrüstungsvertrag ausgehandelt. Jetzt setzt man die Dinger einfach vor Russlands Grenzen und damit vor Putins Nase. Ist die KI jetzt so viel schlauer?
https://www.deutschlandfunk.de/uno-experten-fordern-strengere-sicherheitsregeln-fuer-ki-aehnlich-wie-bei-atomkraftwerken-110.html
——————————————————————–
# WK / Jetzt ? ja, wesentlich