KI, Armageddon, böse Agenten (GPT-3 etc.)

@Lupo54

Also ich kann da @uatu nur beipflichten, will Dir nicht zu nahe treten, aber für mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden. Angst vor Intelligenzen, die jede Form der geistigen Leistung eines menschlichen Hirns weit in den Schatten stellen werden.

Und dazu sind die auch erstmal unsterblich, können dupliziert werden, ...

Kenne das aus Religion und Esoterik, da muss es eine "Substanz" ein Etwas geben, im Hirn, das den Geist ausmacht, die Seele gibt, die uns trennt ... und weil das - was auch immer es wäre - da sein soll, soll eben keine Maschine je darüber verfügen können.

Ich habe mich hier ja ein wenig zurück gezogen, weil ich anderenorts nun mehr Antworten bekomme, also ich Fragen habe und immer mehr erkenne, es braucht viel mehr Verständnis von Physik und Mathematik um solche Gespräche sinnvoll führen zu können.

Weiterhin vertrete ich die Meinung, wenn es physikalisch in diesem Universum möglich war - mich - zu bilden, und auch Einstein und viele andere Hirne die vermutlich über Innenwahrnehmung verfügen, dann muss das auch ein weiteres mal möglich sein.

Und auch Substrat unabhängig.

Aber offenbar muss man verstehen können, was turning-berechenbar in diesem Kontext bedeutet, und noch ganz viel mehr, was ich hier nicht mal eben auflisten kann.

Ja, auch ich habe da aus meinem tiefen Innern eine Überzeugung, die ich nicht mal eben so begründen kann, doch schon, aber nicht so, dass die nicht von jemanden mit viel Hintergrund zerrissen werden kann.

Davon aber abgesehen, die Frage des Threads geht ja weit darüber hinaus, wie @uatu prognostiziert, wir werden diese Agenten bekommen.

Gerade erst in der neuen C.T. gelesen, China arbeitet an einem Programm wie GPT-6 oder so, mit Billiarden freien Parametern, also größer und schneller als GPT-3. Das Teil soll Bilder generieren können, so um Dinge zu erklären und klar, es spricht chinesisch, und alle anderen Sprachen.

Es ist so, diese "bösen" Agenten werden kommen, aus Sicht eines Konzerns, Politikers und Staates werden das klar "gute" Agenten sein, doch ihre Macht wird gewaltig sein, meiner Meinung ist die Zeit in der wir leben historisch, so wie die Erfindung der Dampfmaschine, Feuer, Rad, Computer, Internet ... und was nun kommt, dass stellt all diese Dinge noch mal richtig in den Schatten.

Schon in fünf Jahren werden wir mit solchen Systemen normal sprechen, werden "persönliche" Agenten haben, die für uns die Nachrichten filtern, zusammenfassen, unser biologischen Funktionen kontrollieren, Termine machen, uns von A nach B bringen, mit autonomen Fahrzeugen.

Und Konzerne und Staaten werden Cluster davon haben, die Welt wird sich in den nächsten 25 - 50 Jahren so unglaublich auf diesem Level verändern, und aktuell sehe ich nicht, dass es zum Gute für alle sein wird.

China wird den Überwachungsstaat weiter ausbauen, der wird sich dann bald durch solche Agenten selber überwachen, dann wird es unmöglich sein, solche Strukturen wieder zum Einsturz zu bringen, ich glaube nicht, dass wir Menschen 2100 noch die sein werden, welche uns regieren und die Macht wirklich in Händen halten.

nocheinPoet schrieb:für mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden. Angst vor Intelligenzen, die jede Form der geistigen Leistung eines menschlichen Hirns weit in den Schatten stellen werden.

Und das wird nicht zwangsläufig der Fall sein bzw. Grund zur Sorge sein? Ich meine man kann den Prozess ja eh nicht mehr aufhalten, da irgendwo irgendwer daran forschen und tüffteln wird, selbst wenn es im Geheimen sein wird und unsere Regierung es unter Verbot stellt. Ich richte dabei meine Augen auf China und die USA, von denen sicher eine Nation oder beide Durchbrüche erleben wird, ich fürchte eher es wird China sein.

uatu schrieb:Natürlich kann man sich auch dann noch einreden, das würde nicht zählen, weil es ja nur "aus Nullen und Einsen zusammengesetzt" ist, aber das ist letztendlich genauso albern, wie zu behaupten, ein Flugzeug würde nicht fliegen, weil es nicht mit den Flügeln schlägt.

Solch einen unterirdischen Diskussionsstiel bin ich nicht von Dir gewöhnt einschl. des total falschen Vergleichs. Bitte lese den ersten Teil meines letzten Postings noch mal. Die Leistungen moderner Computer einschießlich möglicher Steigerungen in der Zukunft werden von mir durchaus anerkannt.
Ich halte es auch ohne weiteres für möglich dass wir uns in absehbarer Zeit mit elektonischen Avataren unterhalten die in Standardsituationen (z.B. eine Bestellannahme) von "echten" Menschen nicht mehr zu unterscheiden sind. Wobei wir übrigens wieder beim Threadthema sind. Aber das sollte den Blick nicht darauf verstellen dass da nichts anderes abläuft als ein Computerprogramm. Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen. Die sich auch in Zukunft sehr schnell bemerkbar machen werden wenn Routinen verlassen werden und/oder es ins gefühlsmäßige geht.

nocheinPoet schrieb:ür mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden.

Ich bin leider nicht in der Lage die Zahl Pi bis auf die zwölfte Stelle zu berechnen was jeder bessere Taschenrechner kann. Fühle mich aber deshalb dem Taschenrechner nicht geistig unterlegen (Ironie aus).
Mit der quasi relgiösen Schnittstelle die Du hier zwischen Mensch und Maschine angedacht hast kann ich ehrlich gesagt wenig anfangen. Dieser Teil des Themas gehört auch nicht in den Wissenschaftstread. Das passt eher in die Philosophie-Sparte.
Ob die Entwicklung in einem gigantischen Ünerwachungsstaat endet ist eine durchaus reale Gefahr. Die Chinesen machen es schon vor und auch in unserer Hemisphäre gibt es schon gewaltige Datensammler, wenn auch aus wirtschaftlichen Gründen. KI ist hier aber zumindest zur Zeit noch nur ein Mittel um den Zweck zu erreichen, nicht mehr. Elektronische Agenten die sich selbständig machen um ihre eigenen Ziele zu erreichen sind glücklicherweise SF. Und das wird auf absehbare Zeit auch so bleiben. Schon allein weil sie darauf nicht programmiert sind.

@uatu
@all

Ich bin keine Experte in Machine Learning und KI PRogrammierung, es stellen sich mir aber zwei wichtige Fragen:

1. Kann man eine KI oder ein CNN so programmieren dass sie ihren eigenen Code modifiziert? Das Ziel koentte z.B. sein das man einen effizienteren Code bekommt als von Mensch programmiert. Gibt es in dieser Hinischt Forschung?

2. Ich kann mir vorstellen dass man KI's benutzen kann um effizientere Schadsoftware zu entwicklen. Speziell selbst replizierenden Code der sich selber modifiziert um z.B. Virenprogrammen zu entgehen. Wie gross ist die Gefahr hier?

Ich denke diese Artikel koennten interessant sein:

https://www.weforum.org/agenda/2019/06/ai-is-powering-a-new-generation-of-cyberattack-its-also-our-best-defence/

Hier geht es um drei Arten wie KI die Art von Cyberattacken ändern wird oder kann. Ein Beipiel: Inpersonation, d.h. Vorspielen einer falschen Identität. Mittels AI wird es zunehmende möglich sein täuschend echte Kommunikation mittels einer gefälschten Identität vorzuspielen. Auswirkung z.B. für den einfachen User: Infizierte Emails wird man nicht mehr ohne weiteres an bestimmten eindeutigen Merkmalen erkennen können.

https://documents.trendmicro.com/assets/white_papers/wp-malicious-uses-and-abuses-of-artificial-intelligence.pdf

Dies ist ein 80 Seiten langes Dokument über die Ausnutzung von KI im EInsatz für Schadsoftware. Grobe zum INhalt: Momentaner Stand zur Ausnutzung von KI in Schadsoftware, Zukünftige Szenarien zum positiven und negativen Nutzen von KI, Emfpfehlungen und eine Fallstudie zur Anwendung von Deepfake sowie SChlussfolgerung.

Vielleicht ist das interessant für den ein oder anderen Mitleser.

@Lupo54:

Lupo54 schrieb:Aber das sollte den Blick nicht darauf verstellen dass da nichts anderes abläuft als ein Computerprogramm. Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen.

Es gibt immer noch viele Menschen, die sich an die krasse Fehlvorstellung von KIs als starren, eingeschränkten, quasi-mechanischen Abläufen klammern. Das war schon vor 20 Jahren falsch, und hat mit der Realität inzwischen überhaupt nichts mehr zu tun. Das einzige, was z.B. bei AlphaZero in klassischem Sinne "programmiert" ist, sind die Spielregeln (für Go, Schach und Shōgi). Das eigentliche Spielen lernte AlphaZero durch Spielen gegen sich selbst, wobei -- wenn man spezifisch Schach herausgreift -- vier Stunden lernen genügte, um jedem Menschen weit überlegen zu sein. Das war Stand 2017, inzwischen ist die Forschung wesentlich weiter. Kein Mensch kann die Komplexität der Entscheidungsprozesse innerhalb einer solchen KI noch nachvollziehen.

Die Spiele, die AlphaZero beherrscht, sind jeweils eine "kleine Welt", mit bestimmten Umgebungsbedingungen und Regeln. Der Unterschied zur realen Welt ist dabei nur graduell, nicht grundsätzlich. Die reale Welt hat komplexere Umgebungsbedingungen und komplexere Regeln (Naturgesetze), aber genauso, wie KIs heute in den "kleinen Welten" der Spiele jedem Menschen weit überlegen sind, werden sie das in Zukunft -- und zwar schneller, als viele Menschen sich vorstellen können -- in der realen Welt sein. Das Beispiel Autonomes Fahren zeigt, dass sich KIs auch heute schon -- noch nicht unter allen Umständen, aber insgesamt doch bereits bemerkenswert gut -- in der realen Welt zurechtfinden.

Die Grenzen von KIs sind nicht absehbar. Das ist der Grund, warum diejenigen, die das verstanden haben, sich Gedanken um die Risiken der Technologischen Singularität machen.

@mojorisin:

mojorisin schrieb:Kann man eine KI oder ein CNN so programmieren dass sie ihren eigenen Code modifiziert? Das Ziel koentte z.B. sein das man einen effizienteren Code bekommt als von Mensch programmiert. Gibt es in dieser Hinischt Forschung?

In gewissem Sinne ist die gesamte Trainingsphase bei neuronalen Netzwerken ein Modifizieren der eigenen Programmierung. Bei der klassischen Programmierung kommt es darauf an, welche Abstraktionsebene man betrachtet. An der Erzeugung von möglichst optimalem Maschinencode aus gegebenem Sourcecode wird seit den Anfängen der Compilertechnik geforscht, und ich bin eher skeptisch, ob auf dieser Ebene noch viel zu holen ist. Für eine Verbesserung auf der darüberliegenden Abstraktionebene (d.h. der Algorithmen und der Struktur des Sourcecodes) müsste eine KI das jeweilige Programm auf einem Level "verstehen", der meiner Einschätzung nach bisher noch nicht erreicht ist. Bisher war eine Verbesserung der Hardware fast immer der effektivste Hebel zur Leistungssteigerung.

Ein hammerhartes neues Video von Two Minute Papers. Es geht insbesondere um die grafische Simulation von Oberflächenspannungs-Effekten.

A Simulation That Looks Like Reality! 🤯

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Alles in den dargestellten Szenen ist simuliert, nichts davon ist real.

@uatu
Sorry dass ich so blöde als Laie daherfrage, kann dem Thema in dem Video auch nicht ganz folgen auf englisch, aber kann es sein dass es letztlich "nur" um Rechen- bzw. Hardware(im weitesten Sinne)leistung geht? Oder ist das auch eine Frage der Programmierung?

Ansonsten, whow 😮

@skagerak: Man muss bei solchen Arbeiten drei Dinge auseinanderhalten: Die grundsätzliche Theorie, die Umsetzung in Software, und die Hardware, um die Software darauf laufen zu lassen. Die grundsätzliche Theorie ist schon länger bekannt, aber erst mit ausreichend leistungsfähiger Hardware lohnt es sich, sie in Software umzusetzen.

@uatu

Ja diese Simulationen sind echt interessant, aber es handelt sich meines Wissens nicht um KI-Systeme. Im Prinzip werden hier zwei Felder kombiniert, physiklische Modellierung mittels numerischer Loesungen von entsprechenden Gleichungen (man sieht das in der Publikation, da geht man von der Navier-Stokes-Gleichung aus) und Raytracing, einem Algorithmus zur Erstellung fotorealistischer Bilder. Gute Raytracer gibt es schon lange, nur die entsprechende Hardware machte es bisher noch nicht moeglich fororealistische Videosequenzen in vernuenftiger Zeit zu raytracen. Optisch sehr realistische gerenderte Bilder gibt es schon laengers:

Original anzeigen (1,3 MB)
Bild von 2006: Wikipedia: Raytracing

Ein aktuelles Beipiel:

Nvidia's Newest RTX Demo

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

uatu schrieb:Für eine Verbesserung auf der darüberliegenden Abstraktionebene (d.h. der Algorithmen und der Struktur des Sourcecodes) müsste eine KI das jeweilige Programm auf einem Level "verstehen", der meiner Einschätzung nach bisher noch nicht erreicht ist.

Es scheint so dass man GPT-3 oder andere Algorithmen daszu benutzen kann, von einem Standardsatz in Programmcode zu uebersetzen:
https://www.wired.com/story/ai-latest-trick-writing-computer-code/
https://sourceai.dev/

Darauf hat meine Frage eher abgezielt.

Generll denke ich dass die Gefahren von KI in naeherer Zukunft erstmal darin liegen, dass KI und maschinelles Lernen benutzt wird um deutlich effektivere Schadsoftware zu entwickeln.

@mojorisin:

mojorisin schrieb:Ja diese Simulationen sind echt interessant, aber es handelt sich meines Wissens nicht um KI-Systeme.

Das ist richtig, und das hätte ich explizit erwähnen sollen. Der Hauptfokus des YouTube-Kanals "Two Minute Papers", von dem auch das "Hide and Seek"-Video stammt, das ich kürzlich gepostet hatte, liegt auf KI, aber die grafischen Simulationen sind i.d.R. keine KI. Sie sind aber ein gutes Beispiel dafür, auf welchem erstaunlichen Niveau die Realität inzwischen auf Computern abbildbar ist. Die Szenen wirken m.E. aussergewöhnlich realistisch, über das, was z.B. in dem NVIDIA-Video gezeigt wird, hinaus.

mojorisin schrieb:Raytracing, einem Algorithmus zur Erstellung fotorealistischer Bilder.

Ich weiss, was Raytracing ist. Seit ein paar Jahrzehnten. ;)

mojorisin schrieb:Es scheint so dass man GPT-3 oder andere Algorithmen daszu benutzen kann, von einem Standardsatz in Programmcode zu uebersetzen [...] Darauf hat meine Frage eher abgezielt.

Das ist ein völlig anderes, deutlich einfacheres Problem als die High-Level-Optimierung von bestehendem Sourcecode.

uatu schrieb:Ich weiss, was Raytracing ist. Seit ein paar Jahrzehnten. ;)

Davon gehe ich aus. Es war eher fuer die Allgmeinheit gedacht falls es jemand noch nicht gesehen hat. Sorry :-)

EInem Thema bist du aber bisher ausgewichen und mich wuerde deine Meinung interessieren: Was denkst du ueber die Gefahren die von der Kombination KI und Schadsoftware ausgehen?



PS @all: Bei Thema Rendern koennte man meinen dass der Computer die Menschheit schon laengst abgehaengt hat. Allerdings gibt es auch Menschen die hyperrealistische Bilder zeichnen koennen:

Original anzeigen (0,9 MB)
https://gregorythielker.com/portfolio/projects/under-the-unminding-sky/ (Archiv-Version vom 11.07.2021)
Siehe auch: Wikipedia: Hyperrealismus

mojorisin schrieb:ueber die Gefahren die von der Kombination KI und Schadsoftware ausgehen

Nur ein Gedanke dazu. Auch die Gegenmaßnahmen könnten dann ja von einer KI getroffen werden.

So liebe Freunde, Leser, Menschen und künstliche Intelligenzen ...

Ich bin hier etwas weniger präsent, aktuell versuche ich mir zumindest mehr Grundlagen in der Mengenlehre und Aussagelogik anzueignen, was eben Zeit kostet. Aber egal, ich hatte es ja schon angesprochen, die Entwicklung geht weiter:

Wu Dao 2.0

Chinas neuestes Sprach-KI-Modell ist multimodal trainiert und zehnmal größer als OpenAIs GPT-3. Es übertrifft sogar Googles gigantischen Google Switch Transformer.

Im März 2021 stellte die Beijing Academy of Artificial Intelligence (BAAI) Wu Dao 1.0 vor. Das KI-Projekt bestand aus vier verschieden großen KI-Modellen, darunter das 2,6 Milliarden Parameter große Sprachmodell Wua Dao – Wen Yuan, das bis dato größte chinesische Sprachmodell.

Laut den beteiligten Forschern erreicht die Künstliche Intelligenz in 20 Sprachbenchmarks mit OpenAIs GPT-3 vergleichbare Ergebnisse. Im Mai 2021 veröffentlichte Huawei dann PanGu-Alpha, ein 200 Milliarden Parameter großes chinesisches Sprachmodell.

Einen Monat später zeigen die Forscher des BAAI nun Wu Dao 2.0: Die neue Version ist ganze 1,75 Billionen Parameter groß und damit zehnmal größer als OpenAIs GPT-3 und 150 Milliarden Parameter größer als Googles Switch Transformer mit 1,6 Billionen Parametern. An dem Projekt sind neben der BAII 22 Partner beteiligt, darunter Xiaomi, Meituan und Kuaishou.

Wu Dao 2.0 knackt mehrere Benchmarks

Wu Dao 2.0 ist ein multimodales Modell ähnlich etwa OpenAIs DALL-E und CLIP oder Googles LaMDA und MUM. Es wurde mit 1,2 Terabyte chinesischem und 1,2 Terabyte englischem Text und insgesamt 2,5 Terabyte an Bildern trainiert.

Für das Training des riesigen Modells nutzten die Forscher FastMoE, eine Open-Source-Architektur ähnlich Googles Mixture of Experts (MoE), die schon für Googles Switch Transformer zum Einsatz kam.

Dort werden bestimmte Informationen immer nur an ein Expertennetz innerhalb des großen Modells geleitet. Das reduziert die nötige Rechenleistung, da je nach verarbeiteter Information immer nur bestimmte Abschnitte des Modells aktiv sind.

Die riesige KI kann Gedichte schreiben, Texte zusammenfassen, Fragen beantworten oder Bilder auf Zuruf generieren. WuDao 2.0 hat laut den Forschern des BAAI in neun weit verbreiteten KI-Benchmarks die aktuelle State-of-the-Art (SOTA) erreicht oder überholt:

ImageNet (zero-shot): SOTA, vor OpenAI CLIP.
LAMA (factual und commonsense knowledge): Vor AutoPrompt.
LAMBADA (cloze tasks): Vor Microsoft Turing NLG.
SuperGLUE (few-shot): SOTA, vor OpenAI GPT-3.
UC Merced Land Use (zero-shot): SOTA, vor OpenAI CLIP.
MS COCO (text generation diagram): vor OpenAI DALL·E.
MS COCO (English graphic retrieval): vor OpenAI CLIP und Google ALIGN.
MS COCO (multilingual graphic retrieval): vor UC² (bestes multilingual und multimodal pre-trained model).
Multi 30K (multilingual graphic retrieval): vor UC².

Eine wissenschaftliche Veröffentlichung zu Wu Dao 2.0 steht allerdings noch aus.

Quelle: https://mixed.de/sprach-ki-aus-china-wu-dao-2-0-ist-zehnmal-groesser-als-gpt-3/

Anwendung von Wu Dao 2.0. – auf dem Weg zum KI Grid

Ein Ziel, das laut Tang Jie, dem stellvertretender Direktor des BAAI, verfolgt wird, ist die Entwicklung und Implementierung von kognitiven Fähigkeiten in Maschinen (Turing-Tests).

Demonstriert wurde dies bei der Vorstellung von Hua Zhibing, einer virtuellen Studentin, die auf Basis von Wu Dao 2.0 erlernt hat, Musik zu komponieren, Gedichte zu schreiben, Bilder zu malen und zu coden. Im Gegensatz zu GPT-3 scheint Wu Dao 2.0 sich den menschlichen Gedächtnis- und Lernmechanismen anzunähern, da ein Vergessen von zuvor Gelerntem nicht mehr eintritt.

Abgesehen von dieser verspielten Avatarisierung ist Wu Dao 2.0. jedoch viel mehr als nächster Meilenstein für die Zukunft einer flächendeckenden transformativen KI-Industrieinfrastruktur, ähnlich einem Stromnetz, zu verstehen. Dieses verbindet KI-Anwendungen miteinander und steuert intelligent Kapazitäten. Dies wird dadurch verstärkt werden, dass die Anbieter die von den Kunden über die Schnittstellen bereitgestellten Daten zur Erweiterung des Trainingssets nutzen werden, um zu einer kontinuierlichen Verbesserung des Gesamtsystems beitragen.

Quelle: https://www.alexanderthamm.com/de/blog/wu-dao-2-0-das-kann-chinas-state-of-the-art-modell/

Weitere Quellen:

https://gpt3demo.com/apps/wu-dao-20 (Archiv-Version vom 12.07.2021)
https://towardsdatascience.com/gpt-3-scared-you-meet-wu-dao-2-0-a-monster-of-1-75-trillion-parameters-832cd83db484

---

Sollte schon mal reingelesen werden um erkennen zu können, von welcher Gefahr ich hier spreche, Wu Dao ist nicht mehr auf Text zum Training angewiesen, hier werden auch Bilder genommen, vermutlich auch bald Videos.

Ich gehe davon aus, dass man in zehn Jahren sagen kann, nimm den Anime, mach daraus einen echten Film mit den Schauspielern x, y, z und das in den Sprachen ...

Und noch können Deepfakes erkannt werden, auch da geht mehr, man lässt eine KI das Ergebnis bewerten und macht eine Feedback-Schleife, solange bis die andere KI da nichts mehr erkennen kann. Dann kann man sagen, echt dumm gelaufen.

GPT-3 und Wu Dao 2.0 sind erst der Anfang, der erste Verbrennungsmotor, die Dampfmaschine, der erst integrierte Schaltkreis, wobei ich davon überzeugt bin, es ist viele größer, und die Welt verschläft es ...

Lupo54 schrieb:

uatu schrieb:Natürlich kann man sich auch dann noch einreden, das würde nicht zählen, weil es ja nur "aus Nullen und Einsen zusammengesetzt" ist, aber das ist letztendlich genauso albern, wie zu behaupten, ein Flugzeug würde nicht fliegen, weil es nicht mit den Flügeln schlägt.

Solch einen unterirdischen Diskussionsstiel bin ich nicht von Dir gewöhnt einschließlich des total falschen Vergleichs. Bitte lese den ersten Teil meines letzten Postings noch mal. Die Leistungen moderner Computer einschließlich möglicher Steigerungen in der Zukunft werden von mir durchaus anerkannt.

Sei mal bitte nicht ganz so empfindlich und überhaupt, ich finde das recht sachlich von @uatu ebenso auch den Vergleich nicht so unpassend wie Du.

---

Lupo54 schrieb:Ich halte es auch ohne weiteres für möglich dass wir uns in absehbarer Zeit mit elektronischen Avataren unterhalten die in Standardsituationen (z.B. eine Bestellannahme) von "echten" Menschen nicht mehr zu unterscheiden sind. Wobei wir übrigens wieder beim Threadthema sind.

Aber das sollte den Blick nicht darauf verstellen, dass da nichts anderes abläuft als ein Computerprogramm. Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen. Die sich auch in Zukunft sehr schnell bemerkbar machen werden wenn Routinen verlassen werden und/oder es ins gefühlsmäßige geht.

Ach was, bitte was glaubst Du denn zu sein, laufen da in Deinem Hirn keine Programme ab? Was glaubst Du geschieht da, Wunder? Dein Hirn ist ein komplexes neuronales Netz, es gelten die Regeln und Gesetze der Physik und aus die Maus.

Ja ich kenne sie, und vermutlich jeder andere auch, ich kann das aber nicht wissen, die Qualia, und die Qual damit.

Wikipedia: Qualia

Problem ist und wird wohl bleiben, man findet sie nicht, kann sie nicht messen, nichts, man weiß, man hat sie, erklären ist nicht möglich. Da unser Hirn aber nur eine biologische Rechenmaschine ist, gibt es keinen Grund nun zu glauben, künstliche Neuronale Netze würden das nicht auch besitzen können und richtig groß wird das Problem, wir werden das nie überprüfen können.

Wenn ein kleines Kind heult und sagt, es hat große Schmerzen, dann wollen wir helfen, es berührt uns, das soll nicht sein. Ich befürchte wir werden noch in diesem Jahrhundert eine "Maschine" haben, die von ihren Schmerzen erzählt, wir werden große ethische Probleme bekommen.

---

Aktuell diskutiere ich die Frage, oder bewege mich dahin, ob unser Bewusstsein turing-berechenbar ist oder nicht.

Berechenbarkeit #04 - Turing-Maschinen (Beispiele)

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Wikipedia: Berechenbarkeit
Wikipedia: Turingmaschine
https://ai.dmi.unibas.ch/_files/teaching/fs14/theo/slides/theo12.pdf (gute Folien, lohnt sich, wenn man verstehen will)

Der gute @Blue0 hat hier einige tolle Dinge geschrieben, ich will da ansetzen und drauf aufbauen, das Gute, er ist nicht meiner Meinung hier, ich sage ja, das "menschliche" Bewusstsein manifestiert sich im Hirn, einem biologischen neuronalen Netz, aber es ist Substrat unabhängig, geht alles auch super mit Silizium, Grafen und was auch immer.

Um seine Position besser oder überhaupt verstehen zu können, braucht es aber etwas mehr an Grundlagenwissen, er geht da ganz anders heran.

Bisher sehe ich keinen Grund von meiner Sichtweise zu weichen, ...

---

Lupo54 schrieb:

nocheinPoet schrieb:Für mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden.

Ich bin leider nicht in der Lage die Zahl Pi bis auf die zwölfte Stelle zu berechnen was jeder bessere Taschenrechner kann. Fühle mich aber deshalb dem Taschenrechner nicht geistig unterlegen (Ironie aus).

Polemik könnte ich da erkennen, Ironie hingegen nicht.

---

Lupo54 schrieb:Mit der quasi religösen Schnittstelle die Du hier zwischen Mensch und Maschine angedacht hast, kann ich ehrlich gesagt wenig anfangen. Dieser Teil des Themas gehört auch nicht in den Wissenschaftstread. Das passt eher in die Philosophie-Sparte.

Bitte was genau meinst Du mit Schnittstelle?

---

Lupo54 schrieb:Ob die Entwicklung in einem gigantischen Ünerwachungsstaat endet ist eine durchaus reale Gefahr. Die Chinesen machen es schon vor und auch in unserer Hemisphäre gibt es schon gewaltige Datensammler, wenn auch aus wirtschaftlichen Gründen.

Du, die Frage stellt sich nicht mehr, in China ist das real, und Wu Dao 2.0 wird ganz sicher auf all die Daten der Bürger losgelassen werden, bei Milliarden an Individuen, da wird es solche Systeme brauchen um die Sozialpunkte zu berechnen, in zehn Jahren ist das fest eingefahren, Milliarden Menschen werden dann von KI "gerichtet", kategorisiert und erhalten Zuteilungen je nach Wertung.

---

Lupo54 schrieb: KI ist hier aber zumindest zur Zeit noch nur ein Mittel um den Zweck zu erreichen, nicht mehr. Elektronische Agenten die sich selbständig machen um ihre eigenen Ziele zu erreichen sind glücklicherweise SF. Und das wird auf absehbare Zeit auch so bleiben. Schon allein weil sie darauf nicht programmiert sind.

Nein und nein, es wäre ja schön, wenn Du Recht hättest, hast Du aber nicht, noch immer verstehst Du nicht, was ein Neuronales Netz ist, noch immer behauptest Du, diese Systeme wären ja auf etwas programmiert, nein sind sie nicht!

https://www.welt.de/wissenschaft/article185109198/Vergesst-AlphaGo-der-neue-Held-heisst-AlphaZero.html

Es muss kein Wissen über Spielregeln einprogrammiert werden, NN arbeiten ganz anders, also normal Programme, die man programmiert. Es gibt da auch nichts wie Quellcode, in dem man einen Bug suchen kann.

Ich sage es mal deutlich, aktuell verstehst Du nicht, was da wirklich passiert, was das ist, wie es funktioniert, Du, ich meine das nicht böse, im Gegenteil, auch ich verstehe da die Dinge nur bis zu einem Punkt, eben darum will ich ja mal weiter sehen und tiefer einsteigen. Und dafür muss ich mehr wissen.

Wie dem auch sei, leider irrst Du, Deine Aussage: "... Schon allein weil sie darauf nicht programmiert sind." eben belegt das ganz deutlich, ...

Leute, der Zug ist echt schon abgefahren, und er wird immer schneller, da sorgen wir uns um den Klimawandel, ja zu Recht und ist auch ganz wichtig, aber wir übersehen was da gerade so passiert, und die Gefahr ist größer, der Kipppunkt meiner Meinung nach erreicht.

...

@mojorisin

mojorisin schrieb:Was denkst du ueber die Gefahren die von der Kombination KI und Schadsoftware ausgehen?

Zunächst ein allgemeiner Punkt: Viele der beeindruckendsten Beispiele für KI erfordern spezielle Hardware. Der Einsatz von sequentiellen Programmen, um neuronale Netze zu berechnen, ist ziemlich ineffizient. Auch eine Parallelisierung über mehrere CPU-Cores nützt da nicht viel. Für manche Zwecke lässt sich Grafikkarten-Hardware verwenden, aber die ist in der Fläche zu uneinheitlich, um sich im allgemeinen Fall bei Schadsoftware darauf zu stützen. Ich vermute, dass in einigen Jahren herkömmliche CPUs durch Coprozessoren für Musterverarbeitung und andere hochgradig parallele Prozesse ergänzt werden. M.E. wird der Einsatz von KI innerhalb von Schadsoftware -- im Gegensatz zum Einsatz von KI zur Unterstützung bei der Entwicklung und für ergänzende Aktivitäten -- wahrscheinlich erst dann wesentliche Bedeutung gewinnen, wenn solche spezielle Hardware in grösserem Umfang in der Fläche verbreitet ist.

Bei der Software-Entwicklung im Allgemeinen gibt es einige Möglichkeiten für den Einsatz von KI, die m.E. auch mit der aktuell üblichen Hardware umsetzbar sein sollten. Ich denke dabei insbesondere an die Erkennung von Fehler-Mustern (auf einer höheren Abstraktionsebene als die Syntax-Analyse des jeweiligen Compilers). Das wird meist nur unscharf möglich sein, d.h. das Entwicklungssystem wird meist nur darauf hinweisen können, dass an einer bestimmten Stelle im Sourcecode möglicherweise oder wahrscheinlich ein Fehler vorliegt, aber auch das kann bereits sehr nützlich sein. Jede solche Verbesserung des Software-Entwicklungs-Prozesses im Allgemeinen wird auch Schadsoftware-Entwicklern zugute kommen. KI-Systeme, die den Sourcecode eines kompetenten Programmierers mehr als marginal verbessern können, werden auch irgendwann kommen, aber ich schätze, das wird noch ein paar Jahre dauern.

Ein ziemlich breites Einsatzfeld für KI -- wie auch in dem Trend Micro Dokument beschrieben wird, das Du verlinkt hattest -- dürfte der Wettlauf zwischen Anti-Schadsoftware-Entwicklern und Schadsoftware-Entwicklern in Bezug auf die Erkennung von Schadsoftware darstellen. Anti-Schadsoftware-Entwickler werden zunehmend ausgefeiltere KI-basierte Algorithmen verwenden, um Schadsoftware zu erkennen, und Schadsoftware-Entwickler werden zunehmend ausgefeiltere KI-basierte Algorithmen verwenden, um ebendieser Erkennung zu entgehen. Ich schätze, dass das insgesamt auf ein Unentschieden hinauslaufen wird, d.h. keine Seite wird einen wesentlichen Vorsprung gegenüber der anderen Seite erzielen können.

Eine wesentliche Gefahr in näherer Zukunft dürfte m.E. der Einsatz von eher herkömmlicher Schadsoftware zusammen mit Deep Fakes, d.h. absolut echt wirkenden, per KI gefälschten Audio- und Video-Nachrichten darstellen. Ich vermute, dass es da in den nächsten Jahren eine Reihe von spektakulären Fällen geben wird. Es wird zunehmend dazu kommen, dass man sich bei jedem Text, jedem Bild, jedem Audio und jedem Video ernsthaft die Frage nach der Echtheit stellen muss. Durch den geschickten Einsatz von Deep Fakes kombiniert mit anderen Techniken wird es in Einzelfällen möglich sein, jemandem für eine gewisse Zeit eine völlig falsche Realität vorzuspiegeln. Beispiel: Jemand bekommt eine scheinbar bedeutungsschwere Deep-Fake-Video-Nachricht von einer vertrauten Person, erhält direkt danach zwei gefälschte Emails von ebenfalls vertrauten Personen zum gleichen Thema (wobei der Schreibstil der jeweiligen Person per KI täuschend echt nachgeahmt ist), ruft daraufhin im Webbrowser sein bevorzugtes Nachrichten-Portal zu diesem Thema auf, wo eine herkömmliche Schadsoftware falsche Meldungen injiziert, während eine weitere herkömmliche Schadsoftware dafür sorgt, dass im nebenher laufenden Webradio ebenfalls falsche Meldungen wiedergegeben werden.

Eine andere gefährliche Einsatzmöglichkeit von KI für Schadzwecke ist die automatische Profil-Erstellung für massgeschneiderte Angriffe. Über viele Menschen gibt es eine riesige Menge an Informationen im Internet (oft sehr viel mehr, als der jeweiligen Person bewusst ist) und per KI kann man diese Informationen automatisch sammeln, auswerten, und zu einem überschaubaren Profil zusammenfassen (das u.a. speziell für Angriffe "interessante" Punkte wie geschätztes Vermögen, geschätzter IQ, geschätzter Level an IT-Kenntnissen, und eingesetzte Hard- und Software enthalten könnte). Da diese Abläufe zentral erfolgen können, ist dabei der Einsatz spezieller KI-Hardware möglich, womit sich die Verarbeitung erheblich beschleunigen lässt. Auf Basis dieser Profile kann man dann wesentlich spezifischere Angriffe gegen einzelne Personen generieren, als das mit realistischem Aufwand auf herkömmliche Weise möglich wäre.

Das sind sicherlich bei weitem nicht alle möglichen Szenarien für den Einsatz von KI im Zusammenhang mit Schadsoftware, aber diese erscheinen mir am wichtigsten.