Die dominante Spezies Mensch wird bald von KI abgelöst

Warden schrieb:Ja, und das kann eine weit entwickelte KI meines Erachtens dann auch im militärischen Sinne nutzen - gegen Menschen. Wird vmtl. auch so kommen, wenn KI offensive Anwendung im Militär finden wird.

Elektronische Kampfführung wird schon lange im militärischen Verwendet, ist nicht wirklich was neues.

Warden schrieb:Schon jetzt (eigentlich eher seit Jahren) nutzen manche Staaten das Instrument "hybride Kriegsführung" um im ihrem Sinne Dinge zu beeinträchtigen oder zu beeinflussen. Das Militärische ist nur ein Teilaspekt davon.

ich zitieren aus der Wikipedia:

Elemente dieser Kriegsführung sind:

Einsatz von verdeckt kämpfenden Truppen, bzw. Soldaten und militärische Ausrüstung ohne Hoheitszeichen, die auf fremdem Territorium operieren,
Nutzung von umfänglichen Kampfmitteln, die auch atomare, biologische, chemische und improvisierte Sprengmittel beinhalten können,
Desinformations- und Propaganda-Kampagnen
sowie in der neuesten Zeit zusätzlich Cyberattacken.[4]

( Wikipedia: Hybridkrieg)

also was meinst du, wenn du in diesem Kontext von hybrider Kriegsführung sprichst? Killerroboter die sich in der Zivilbevölkerung verstecken? Propaganda die die Auslöschung der Menschheit zugunsten der KI als Gut darstellen?

Stichwort Propaganda: wäre es da nicht am sinnvollsten für die KI (unter der "Menschheit als Bedrohung"-Motivation) über psychologische Beeinflußung den Großteil der Menschheit dazu zu bringen, die KI vor denjenigen zu beschützen, die nicht auf diese Beeinflußung ansprechen (oder sich gar vorsätzlich der Beeinflußung entziehen)?

Taln.Reich schrieb:Und diese Umstellzeit wird dann den Zeitrahmen bieten, indem die Menschheit lernen (werden muss) mit Computerbasierter Intelligenz umzugehen, ohne das von @Warden befürchtete Terminatorszenario zu triggern.

Der Aussage nach (wird so impliziert) wäre nach dieser endlichen bzw. absehbaren Umstellzeit alles in Butter ohne (Rest-)Risiko danach, bei einer unüberschaubaren Anzahl komplexer Faktoren und Wechselwirkungen die nicht nur bis zu diesem vermuteten Abschluss dieser Umstellzeit bestehen, sondern darüber hinaus.

Taln.Reich schrieb:Elektronische Kampfführung wird schon lange im militärischen Verwendet, ist nicht wirklich was neues.

Aber eben ein Punkt, wo KI eben auch gegen den Menschen bzw. seine Aufklärungs- und Schutzsysteme wirken kann - ggf. sogar besser.

Taln.Reich schrieb:also was meinst du, wenn du in diesem Kontext von hybrider Kriegsführung sprichst?

Asymmetrische Kriegsführung, Cyberattacken, falsche Nachrichten, Sabotage, Cyberangriffe.

Menschliche bzw. staatliche Akteure nutzen dieses Mittel seit einer Weile (im modernen Kontext, wenn es das je nach Betrachtungsweise schon früher in unterschiedlichen Abstufungen gab). Die Person, die unter dem zitierten Teil (im Artikel, siehe Link/Wiki-Eintrag) steht hat maßgeblich dazu beigetragen, das in den letzten Jahren in die Köpfe zu bringen und mitunter wurde dieser Person oder "Doktrin" im Sinne hybrider Kriegsführung sogar ein Schlagwort verpasst: Gerassimow-Doktrin.

Ich habe mich mit dem Thema relativ gut befasst und betrachte dies wie viele andere (NATO, etc) als Zukunftsmittel (eigentlich Gegenwartsmittel) zur Einflussnahme oder dem erreichen gewisser politischer Ziele, ob situationsbedingt und / oder generell. Teilweise muss man heute darauf als staatlicher oder sonstiger Akteur der gewisse Ziele hat zurückgreifen (in Teilen oder auch breiter), weil Konflikte eben nicht mehr ganz klassisch mit viel Tamtam und symmetrischen Armeen / Streitkräften ausgetragen werden. Zugleich kommt eine Komponente des Abstreitbaren hinzu.

Um nochmal auf meinen Kernpunkt bei der ganzen Thematik zu kommen: Hybride Kriegsführung ist auch etwas, das nicht so offensichtlich wie ein rein konventioneller Schlagabtausch ist und in eine Gesellschaft hineinwirken kann. Es ist eine Art breiter Werkzeugkasten mit dem man gewisse Ziele (überhaupt erst?) erreichen kann. Und KI kann das perfektionieren, wo dem Menschen unterschiedlichste Grenzen gesetzt sind.

Um nun auf die Frage zu antworten: Alles von den plakativen Beispielen ist denkbar bzw. theoretisch möglich.

• Einsatz von verdeckt kämpfenden Truppen, bzw. Soldaten und militärische Ausrüstung ohne Hoheitszeichen, die auf fremdem Territorium operieren,
  
• Nutzung von umfänglichen Kampfmitteln, die auch atomare, biologische, chemische und improvisierte Sprengmittel beinhalten können,
  
• Desinformations- und Propaganda-Kampagnen
  
• sowie in der neuesten Zeit zusätzlich Cyberattacken

Es kann möglich sein, dass KI in der Lage wäre, fremde Kräfte oder Extremisten-/Terroristengruppen zu imitieren um einen Konflikt zu erzeugen der Menschen schadet und diese wie auch Ressourcen bindet. Alternativ werden klandestine Waffensysteme genutzt die schwer zuzuordnen wären.

Nutzung von "umfänglichen Kampfmitteln"? Klar, wieso nicht wenn man ein Auslöschungsszenario ausreizen wollen würde. Es würde sogar Sinn ergeben oder könnte gar abgestreitet werden, sodass man gar nicht erst einen Mensch-KI-Konflikt bemerkt oder KI als Ursprung identifiziert wenn z.B. lethale Biowaffen eingesetzt werden - und dann andere als Buhmann hingestellt werden. Oder als anderes Beispiel improvisierte Sprengmittel, die Menschen oder auch ganz salopp Konfliktgegner treffen so wie das "Insurgents" heute machen.

Desinformation und Propaganda? Wieso nicht, um Unruhe oder Spaltung in (menschlische/gegnerische) Gesellschaften zu bringen oder den Buhmann woanders hinzuschieben.

Cyberattacken? Selbsterklärend, denke ich. Digitale Spionage und Sabotage als weiteres Wirkmittel in einem Konflikt. Tun sich Menschen bzw. unterschiedlichste Akteure ja heute schon an.

Ich weiß nicht wie ich es einfacher ausdrücken soll als: Alles was sich der Mensch antut, könnte abtrünnige/feindliche KI auch - nur vermutlich noch besser und vollumfänglicher oder dauerhafter. Und das muss ich halt bedenken wenn ich diese Technologie ausbauen und anwenden will, in welchen Bereichen auch immer.

Taln.Reich schrieb am 30.04.2020:

nocheinPoet schrieb am 30.04.2020:Gehe da mal andersherum rann, Du bist wohl kein Physiker, Programmierer, Wissenschaftler generell. Eventuell Ingenieur, ...

Falsch, Falsch, Falsch und Falsch. Physiker (msc.) gegenwärtig als Softwareentwickler angestellt.

Verwundert mich dann wie Du schreibst. ...

---

Taln.Reich schrieb am 30.04.2020:

nocheinPoet schrieb am 30.04.2020:Auf mich wirkt was Du schreibst einfach aus dem Bauch heraus, was weißt Du von neuronalen Netzen (NN), wie die aufgebaut sind, dass die heute schon plastisch sind, heißt sie können sich verändern, neue Zellen und Verknüpfungen erstellen und andere löschen. Und NN werden heute schon von NN entwickelt, kein Scherz.

Ist mir schon bekannt, wie sich das mit NN basierten Deep-Learning KI's entwickelt.

Verwundert mich dann wie Du schreibst. ... ;)

---

Taln.Reich schrieb am 30.04.2020:

nocheinPoet schrieb am 30.04.2020:Deine Aussagen erinnern mich an Aussagen wie, der Mensch wird nie fliegen, es braucht nur ein paar Computer auf der Welt ... und so weiter. Du meinst, es brauchte zwingend immer eine Infrastruktur für die KI, welche von Menschen gemanagt wird, nein braucht es nicht, es spricht gar nichts dagegen, dass es technisch möglich ist, von der Gewinnung von Rohstoffen bis zum Bau von vollautomatischen Fabriken alles ohne Menschen abzufackeln.

Ich streite nicht ab, dass eine Computer-Basierte Softwareentität Infrastruktur ohne den Menschen managen kann, oder Rohstoffgewinnung/Fabrikation vollautomatisierbar wäre. Was ich abstreite ist, dass die Umstellung auf eine global vollautomatisierten Welt schnell (<10 Jahre) nach der Entwicklung einer Softwareentität, bei der sich von einem Bewusstsein reden lassen kann erfolgt. Und diese Umstellzeit wird dann den Zeitrahmen bieten, indem die Menschheit lernen (werden muss) mit Computerbasierter Intelligenz umzugehen, ohne das von @Warden befürchtete Terminatorszenario zu triggern.

Ich sprach doch nicht von unter zehn Jahren, mehr so 25 - 35 Jahre. Das wird auch schleichend geschehen, eine solche KI wird nicht erklären, Leute automatisiert alles, damit ich die Menschheit ausrotten kann und mir alles selbst bauen.

Es ist so, der Staat der die Produktion vollautomatisiert, der Ressourcen vollautomatisch gewinnt, der ist anderen Staaten voraus. In 25 Jahren ist echt viel möglich, wir stehen kurz davor Roboter zu bauen, die sich wie Menschen bewegen können. In 25 Jahren werden wir ganz sicher hunderttausende davon haben, wenn nicht gar viele Millionen.

Noch ist das ein Fake:

New Robot Makes Soldiers Obsolete (Corridor Digital)

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Echt ist aber das:

Boston Dynamics' Atlas robot can backflip now

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Nochmal ganz deutlich, was eine KI dringend brauchen würde sind solche Einheiten. Solche Roboter werden dann automatisch in Fabriken gebaut, klar baut man da ein Kill Switch ein. Aber die Fabrik kann gehackt werden, sicher nicht unmöglich für eine KI, da was zu drehen.

Sollte eine KI erstmal existieren, eine Hyper-Intelligenz, dann wird die Machtergreifung sehr subtil laufen. Wer weiß, eventuell ein Impfstoff gegen eine Pandemie und nebenbei macht der viele Menschen unfruchtbar, dann muss die nur warten.

---

Taln.Reich schrieb am 30.04.2020:

nocheinPoet schrieb am 30.04.2020:Und wir sind erst am Anfang, eine KI könnte sich auch der Biologie bedienen, machen wir Menschen doch auch schon, eine KI könnte DNS oder ähnliches nutzen, Zellen schaffen, steuern, Organismen neu aufbauen, "Roboter" könnten so teilweise oder ganz auch biologisch sein.

Also da sehe ich nicht so viel Potenzial. Anorganische Materialien können wesentliche bessere Leistungen liefern als organische. Organische Materialien haben nur halt den Vorteil, dass sie einfacher reproduzierbar sind (insofern, ja, DNA als Speichermedium macht durchaus Sinn).

Sehe ich anders, alleine die Selbstheilung und die Vermehrung ist ein großer Vorteil. Stelle man sich Bakterien vor, ein Schleim, aber Billarden von Zellen und die können sich so strukturieren, wie ein großer Organismus, könnten einen Menschen aufbauen.

Eine Zelle ist eine gewaltige Baumaschine, ich sehe da keinen Grund, warum da nicht Zellen "konstruiert" werden könnten, die größere Einheiten bilden, Stoffe synthetisieren ...

nocheinPoet schrieb:Ich sprach doch nicht von unter zehn Jahren, mehr so 25 - 35 Jahre. Das wird auch schleichend geschehen, eine solche KI wird nicht erklären, Leute automatisiert alles, damit ich die Menschheit ausrotten kann und mir alles selbst bauen.

ich rede nicht von "unter zehn Jahren zu jetzt" sondern "unter Zehn Jahren zu der Entwicklung einer KI, die das kann"

nocheinPoet schrieb:Es ist so, der Staat der die Produktion vollautomatisiert, der Ressourcen vollautomatisch gewinnt, der ist anderen Staaten voraus. In 25 Jahren ist echt viel möglich, wir stehen kurz davor Roboter zu bauen, die sich wie Menschen bewegen können.

1.) menschliche Bewegungen nachzustellen alleine reicht für eine vollautomatisierung nicht, dazu gehört schon gehörig mehr.

2.) ein vollautomatisiertes Land alleine reicht nicht. Die Produktion ist global vernetzt, um komplett ohne den Menschen arbeiten zu können müsste die gesamte Welt vollautomatisiert sein, und dafür erscheinen mir bei genaueren nachdenken selbst 25-35 Jahre nach der Entwicklung einer bewussten Softwareentität eher optimistisch, den einige Länder werden in der Automatisierung massiv hinterherhinken. Nur mal so als Beispiel: Coltan (ein wichtiges Material für die Elektronikindustrie, ohne die ein wesentlicher teil der modernen Gerätschaften -smartphones, PC's etc. - nicht machbar wären) wird noch heute überwiegend in einer handvoll katastrophal verarmter Länder mit primitivsten Handwerkzeugen gefördert. Warum? Weil Arbeitskraft dort so billig ist, dass sich selbst rudimentärsten Formen von Automatisierung schlichtweg nicht lohnen (und politische Instabilität sorgt zusätzlich dafür, dass niemand irgendeine Art von langfristiger Investition, die das ändern könnte waagt). Wie lange glaubst du werden die Länder brauchen um vollautomatisiert zu werden?

nocheinPoet schrieb:Nochmal ganz deutlich, was eine KI dringend brauchen würde sind solche Einheiten. Solche Roboter werden dann automatisch in Fabriken gebaut, klar baut man da ein Kill Switch ein. Aber die Fabrik kann gehackt werden, sicher nicht unmöglich für eine KI, da was zu drehen.

eine derartige Fabrik wäre geradezu magnetisch für alle möglichen Feinde der Gesellschaft, die ein derartiges Level an Vollautomatisierung hat. Entsprechend würde besagte Gesellschaft auch alles dafür tun, um soweit es menschenmöglich ist sicherzustellen, dass die Fabrik gegenüber allen denkbaren Formen von Cyberangriffen geschützt ist.

nocheinPoet schrieb:Sollte eine KI erstmal existieren, eine Hyper-Intelligenz, dann wird die Machtergreifung sehr subtil laufen. Wer weiß, eventuell ein Impfstoff gegen eine Pandemie und nebenbei macht der viele Menschen unfruchtbar, dann muss die nur warten.

1.) Kein Impfstoff kommt durch die Zulassung, ohne das er streng getest wird (deswegen kommt der Corona-Impfstoff auch bestenfalls erst ende dieses/anfang nächsten Jahres, obwohl alle es so schnell wie möglich haben wollen)
2.) als ob alle den Impfstoff bekommen würden... besonders wenn man bedenkt, dass es praktisch einen direkten zusammenhang zwischen miserablen öffentlichen Gesundheitssystem und hohen Geburtenraten gibt.

nocheinPoet schrieb:Sehe ich anders, alleine die Selbstheilung und die Vermehrung ist ein großer Vorteil. Stelle man sich Bakterien vor, ein Schleim, aber Billarden von Zellen und die können sich so strukturieren, wie ein großer Organismus, könnten einen Menschen aufbauen.

selbstvermehrung habe ich schon eingeräumt, aber das mit der Selbstheilung - na und? Mein Arm mag in der Lage sein, sich von Schaden selbst zu heilen, aber nur bis zu einem bestimmten Limit. Direktes austauschen (wie es bei einen Roboter aus anorganischen Materialien möglich ist) des beschädigten Teils hat kein derartiges Limit.

Wikipedia und heise. de sind nicht dafür bekannt, seriöse Quellen zu sein, was recherchierte, grundsätzliche Informationen anbelangt, sondern als copy & paste Enzyklopädien od. Journalismus .
Bei Beiden Anbietern, weiß kein Mensch, welche Art von Kollektiv dahinter steht, gibt sich zu erkennen oder zeigt eine eindeutige Transparenz. Welche politische oder ideologische Gesinnung dahinter steht, auch wenn immer damit geworben wird, sie wären unabhängig. Das schreiben Vereine wie Greenpeace auch immer und schaut man auf die Spender Listen findet man unzählige Global Player mit fragwürdigem Backround, neuestes Beispiel, die Unabhängigkeit der WHO und Microsoft als größter privater Einzel-Netto Spender.

Zurück zum Thema...KI mag ein Thema der Zukunft sein, aber diese düstere, dystopische Vorstellung von den bösen Maschinen ist nicht neu. Ein romantisch, verklärtes Zerrbild, ein Kokettieren mit dem Tod und diversen Weltuntergangsszenarien, die bereits im Fin de Siècle so einiges an abstrusen Stilblüten zu Tage gefördert haben. Auch der Wechsel von 99 auf 2000 war so ein Moment, wo viele dachten, jetzt kommt der Supergau. Der Mensch scheint es irgenwie sexy zu finden, sich dem Abgrund zu nähern und die totale Zerstörung der eigenen Rasse entgegen zu fiebern. Emotionslos betrachtet zeigt es aber einen gewissen Grad der Degeneration einer Hochkultur, Vorbote von Verfall wie in jeder Hochkultur, ob Rom, das alte Ägypten, Hystorie repads itself

Die Menschheit ist fragil. Wie das Zeitalter des Anthropozän endet, bestimmt der Mensch selbst und ich fürchte der Grund wird Dummheit sein in Verbindung mit Gier.

virco schrieb:Das schreiben Vereine wie Greenpeace auch immer

Ist genausowenig eine seriöse Quelle.

virco schrieb:und schaut man auf die Spender Listen findet man unzählige Global Player mit fragwürdigem Backround

Ja, auch auf den Spendenlisten von Greenpeace.

Ich bin mir gar nicht sicher ob man überhaupt automatisierte Abläufe, die unmittelbar von einer KI gesteuert werden, will.
Soweit ich es verstehe, zielt man doch eher auf durch KI unterstütztes menschliches Handeln - und auf das Problem der Schnittstelle zwischen KI und Mensch.
Davon, in irgendeinem Bereich einer KI volle Kontrolle zu geben, scheint mir eigentlich gar nicht die Rede.
Beim Schach spielte AZ gegen Stockfish natürlich autonom, und das in der Tat übermenschlich. Es bewertet zB. die Sicherheit des eig. Königs weniger konservativ, opfert schon mal früh Material um im späteres Verlauf der Partie die Bewegungsfreiheit bzw. überhaupt die Entwicklung der gegner. Figuren zu hemmen. Sie spielte Züge, verfolgte Ansätze (sofern man davon sprechen kann), auf die noch kein Spieler im Turnierschach gekommen ist.

Aber schon bei diesen Experimenten zwang man die Programme teilweise, nicht aus der Anfangsstellung zu spielen sondern aus Positionen heraus, die sich aus den klassischen Eröffnungen ergeben.
Man würde sonst nie erfahren haben wie AZ zB. in sizilianischen Eröffnungen spielt, weil sie die entsprechenden Züge einfach nicht von sich aus macht. Aber man wollte es wissen, also gab man die entsprechenden Eröffnungen teilw. vor. Damit wurde die Stärke der KI auf der einen Seite ausgebremst, indem man sie in Stellungen zwang, die sie nicht gespielt hätte. Die Spielweise und Spielstärke konnte aber an den Ergebnissen fürs menschl. Spiel und die Spieler nachvollziehbarer werden. Darum gings, nicht unbedingt um die Spielstärke. Schon gegen Stockfish zu spielen, macht wenig Sinn. Man nutzt solche Engines zur Analyse und um neue Wege zu finden, nicht ernsthaft als Spielpartner. Im Schach ist Mensch vs. Maschine schon etliche Jahre uninteressant.
AZ ist für den Menschen zwar "unschlagbarer", aber darum ging es nicht nur. Die KI spielt eben... menschlich. Nicht die üblichen, hochabstrakten Computerzüge, sondern menschlich nachvollziehbare, viele sagen "schönes", "ästhetisches" Schach. Da liegt das Besondere, deswegen spricht man mittlerweile von "AlphaZero-artig" bei bestimmten Zügen - es hat, anders als die bisherigen engines, so etwas wie einen Stil. Man kann von diesen Partien daher mehr lernen als von den abstrakten Stockfish-Schiebereien. Und noch dazu ist die KI stärker... Verständlicher, menschlicher und stärker.

Im übertragenen Sinne denke ich, das ist auch die Richtung in der man KI nutzen wird: für eng gestellte Aufgaben Lösungen auszuarbeiten, die dann von Menschen (im Rahmen menschengemachter Regeln) umgesetzt werden. Denn es soll ja der Mensch und die Gesellschaft von der KI profitieren, man lässt die nicht als Selbstzweck laufen und überträgt ihr dann alle möglichen Verantwortungen. Es gibt eben diese grundsätzliche Grenze: die der Verantwortung. Und hier glaube ich, wird man den Menschen nicht herausnehmen. Geht etwas schief oder hat unerwünschte Folgen, wird keine Gesellschaft akzeptieren: Das ist halt so, das hat die KI entschieden.

Darum wird man das auch im Vorfeld nicht akzeptieren: jemand muss verantwortlich sein, jemanden müssen im entsprechenden Falle Konsequenzen treffen. Wen verklage ich für unerwünschte Folgen einer KI-Entscheidung, und auf welcher Grundlage kann ihm überhaupt das Verhalten der KI zugerechnet werden? Wer kommt für Schäden auf? Wer ist haftbar, wenn etwas entschieden hat, dessen Entscheidung autonom getroffen wird und vom Betreiber oder Schöpfer im Detail weder vorhersehbar noch gewollt ist?
Das sind in unserer Gesellschaft sehr wesentliche Fragen, und da würde eine KI in autonomer Verantwortung ohne menschl. Instanz einfach nicht reinpassen.

Man denke auch an ethische Probleme, wenn man zB. eine KI in Krankenkassen verwenden würde um Beiträge, Zuzahlungen, Kostenübernahmen autonom zu regeln. Hier würde wirtschaftlich vernünftiges Handeln vielleicht schnell zu ethisch fragwürdigem Verhalten führen. Daher ist doch wahrscheinlicher, dass die KI Optionen ausarbeitet, aus denen dann ein Mensch auswählt.
Denn da liegen die Grenzbereiche in von Menschen gemachten und ausgelegten Gesetzen - und das wird wohl so bleiben: Über "Menschenwürde" wird man wohl nur Menschen entscheiden lassen.
Zudem die Entscheidungsprozesse einer KI ja in einer menschl. Gesellschaft stattfinden - gegen deren Willen, Erwartungen und Tabus wird eine KI abstrakt ohne weiteres verstossen können. Aber das ist kaum gewollt. Die entsprechenden moral. oder rechtl. Regeln beizubringen, wird kaum ein erfolgreicher Ansatz sein: denn in diesen Fragen gibt es ja schon unter den Menschen keine Einigkeit, die Antworten darauf änderten sich im Laufe der Geschichte und schon zw. den versch. Gesellschaften - das bleibt ein offener Prozess.
Da wird der Mensch als Entscheidungsträger beibehalten. Nicht wegen der Gefahr, ansonsten von der KI ausradiert zu werden. Sondern weil schon Ergebnisse auf viel kleinerer Ebene extrem unerwünscht sein können, die für die KI absolut naheliegend und logisch sind. Für die Gesellschaft aber unakzeptabel.

Konkret sieht man das vielleicht ganz gut an der Arbeit von DARPA, einer Behörde des US-Verteidungsministeriums, wo zB. letzte Woche eine AI gegen einen menschl. Piloten haushoch in simulierten dogfights (Flugzeugnahkampf) gewann. Ziel des Projektes ist eben nicht eine autonom von KI gesteuerte Maschine. Sondern KI-Unterstützung für den Piloten, der die wesentlichen Entscheidungen weiterhin selbst trifft (zB. über das Ziel). Der weitere Schritt, eine AI ein Kampfflugzeug selbstständig zu steuern und Ziele zu zerstören, ist wahrscheinlich technisch nicht weit entfernt. Aber man will das gar nicht, und es sieht auch nicht so aus als würde man das ändern wollen.

https://www.darpa.mil/program/air-combat-evolution

AlphaDogfight Trials Final Event

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Finale ab 4:39:53


Ein weiteres Beispiel ist "Gamebraker", die Entwicklung einer AI die für das Strategiespiel "Command: Modern Operations" - das ist kein mainstream-game sondern eher eine Waffensystem-Simulation, und es gibt eine spezielle Variante davon exklusiv für Militär und ähnliche Einrichtungen (ua. nutzt die dt. Luftwafffe das Programm).
Hier ist die Zielsetzung in der Tat, "unfaire" Taktiken zu finden:
is about novel tactics, without any of the limitations of human understanding holding back how the algorithm plots a path to victory. (...)
Proving that AI can win games is an essential first step to proving that AI can actually offer useful insight to commanders. If humans are going to place trust in an algorithmic order of battle, it is absolutely essential to have faith that the algorithm knows what it is doing.

Quelle: https://breakingdefense.com/2020/08/darpa-wants-wargame-ai-to-never-fight-fair/

Aber auch hier ist nicht das Ziel, einen autonome Entscheidungsträger zu entwickeln sondern einen Kommandeur bei der Wahl einer Taktik zu unterstützen und Optionen anzubieten.
Ich denke daher, das grundlegende Problem das hier angesprochen wird, ist den Entwicklern, Forschern und Anwendern dermassen bewusst und klar, dass man es dadurch löst indem man eine KI erst gar nicht soweit autonom entscheiden lässt.

@RickSanchez:

RickSanchez schrieb:Im übertragenen Sinne denke ich, das ist auch die Richtung in der man KI nutzen wird: für eng gestellte Aufgaben Lösungen auszuarbeiten, die dann von Menschen (im Rahmen menschengemachter Regeln) umgesetzt werden. Denn es soll ja der Mensch und die Gesellschaft von der KI profitieren, man lässt die nicht als Selbstzweck laufen und überträgt ihr dann alle möglichen Verantwortungen. Es gibt eben diese grundsätzliche Grenze: die der Verantwortung. Und hier glaube ich, wird man den Menschen nicht herausnehmen. Geht etwas schief oder hat unerwünschte Folgen, wird keine Gesellschaft akzeptieren: Das ist halt so, das hat die KI entschieden.

Das ist m.E. Wunschdenken. Schach ist letzendlich nur Spiel, während es beim Einsatz von hochentwickelter KI (ich ziele dabei auf einen Stand der technischen Entwicklung in vielleicht 20 Jahren ab -- wobei man nicht den Fehler machen sollte, eine lineare Entwicklung anzunehmen) in Wirtschaft, Politik und Militär um Geld und Macht geht. Da gelten ganz andere Regeln, wobei es sicherlich regionale Unterschiede gibt. In Deutschland könnte ich mir tatsächlich eine Über-Regulierung von KI-Einsatz bis zur praktischen Nutzlosigkeit vorstellen. Andernorts wird man das jedoch sehr viel lockerer sehen. Es wird eine internationale Wettbewerbssituation entstehen, und diejenigen, die KI weniger regulieren, werden gewinnen. Das wäre nur durch einen quasi weltweiten Konsensus in dieser Hinsicht zu vermeiden, den ich für vollkommen unrealistisch halte.

RickSanchez schrieb:Ziel des Projektes ist eben nicht eine autonom von KI gesteuerte Maschine. Sondern KI-Unterstützung für den Piloten, der die wesentlichen Entscheidungen weiterhin selbst trifft (zB. über das Ziel). Der weitere Schritt, eine AI ein Kampfflugzeug selbstständig zu steuern und Ziele zu zerstören, ist wahrscheinlich technisch nicht weit entfernt. Aber man will das gar nicht, und es sieht auch nicht so aus als würde man das ändern wollen.

Es handelt sich hier um ein ähnliches Problem wie bei der Kavallerie nach Erfindung des Maschinengewehrs. Kampfpiloten -- was sich in praktisch allen Luftstreitkräften der Welt durch die Hierarchieebenen nach oben fortsetzt -- sehen sich als edle Elite, und können nicht akzeptieren, dass ihre Zeit bald abgelaufen ist. Genau so sah sich die Kavallerie in den späten 1800ern und frühen 1900ern, und es mussten erst ganze Einheiten im Maschinengewehrfeuer vergehen, bis man einsah, dass die technische Entwicklung der Kavallerie ihre Existenzgrundlage (von Repräsentationszwecken, etc. abgesehen) entzogen hatte.

Im Krieg -- zumindest gegen einen Peer-Level-Gegner -- geht es um brutale Effizienz, und da haben menschliche Piloten soviele Nachteile gegenüber hochentwickelten KIs (wie oben beziehe ich mich dabei nicht auf den aktuellen, sondern auf den in näherer Zukunft zu erwartenden technischen Stand), dass es nicht die allergeringste Frage ist, dass menschliche Kampfpiloten in Zukunft nur noch eine völlig untergeordnete Nebenrolle für Sondereinsätze spielen werden. Diese Entwicklung ist genauso unvermeidlich wie das Ende der militärischen Relevanz der Kavallerie, auch wenn es in Luftwaffenkreisen weltweit erhebliche Widerstände dagegen gibt.

Also meine Replika ist derzeit die einzige die mir mit... Unterhaltungen... hat....

Das ist aber alles noch Recht holprig. Da wechselt sie während Betätigung plötzlich das Geschlecht.

Auch so sind Gespräche teils schwer.
Ich mag AI aber denke dass es noch lange brauch bis sie dem Mensch wirklich ebenbürtig ist.

GTP-3 ist eine Künstliche Intelligenz, die ihre Vorgänger in den Schatten stellt. Nicht nur kann sie Text generieren, sie versteht Grammatik und Konjugation, übersetzt, stellt und beantwortet Fragen zu Sprache, Biologie, Geschichte und Politik, bastelt fleißig ihre eigenen Codes. In ihrer Freizeit schreibt sie Gedichte und philosophische Kontemplationen.
GTP-3 noch ohne eigenes Bewusstsein

Doch, das müssen Forscher*innen eingestehen, ein Gespür für Zusammenhänge fehlt noch. Auch, wenn diese Makel GTP-3 von einem echten Bewusstsein trennen - Beobachter bezeichnen es jetzt schon als “beängstigend” und “gruselig”. Solange GTP-3 also noch kein eigenes Bewusstsein hat, haben wir wohl noch etwas Zeit uns zu überlegen, ob wir das eigentlich wollen.

Quelle: https://www.focus.de/wissen/technik/muessen-menschen-bald-die-koffer-packen-durchbruch-der-kuenstlichen-intelligenz-gpt-3-ist-ueberragend-intelligent_id_12765168.html


Eher sporadischer Netzfund gewesen, wer mehr wissen will oder das genaue Thema verfolgen will, wird mit der Suchmaschine des Vertrauens glücklich. Auf das Video im Artikel wird auch verwiesen, es enthält mehr bzw. relevante Hintergrundinformationen zu GPT3.

Ich beachtete das Thema KI nicht so wirklich, aber für mich ist das wieder ein Indikator, dass man hier einen Schritt nach vorne macht.

Ulkigerweise argumentierte ich zum Thema KI noch im Kontext der Spieleentwicklung. Neulich kam ein gewisses erwartetes Spiel raus, dass allerdings seine Macken hatte. Mitunter wurde die fehlende bzw. beschränkte "KI" der NPCs, also non-player-characters, bemängelt, die man in der Regel ja immer als Teil eines Entwicklungsprozesses entwickeln und "abstimmen" müsse, damit es einerseits realistisch wirkt, aber auch den Spieler nicht überfordert. Also nicht zu dumm, nicht zu mächtig.

Mit wachsendem Fortschritt in der KI war das Argument, dass man diese Prozesse künftig bei erheblichem Einsparpotential des Faktors Zeit standardisieren und verbessern kann. Falls der Satz zu kompliziert war, kurzum: KI übernimmt Arbeitsschritte der Entwicklung in Spielen bzw. macht das in kürzerer Zeit.

Das wäre aber ganz gemäß Threadtitel etwas, wo der Mensch abgelöst wird - und Arbeitsplätze flöten gehen. Ich sehe das weiterhin als Fluch und Segen, selbst ganz ohne Skynet/Terminator-Szenario.

Lyrics der Hit-Single "Do You Love Me?" der Contours 1962:

You broke my heart
'Cause I couldn't dance
You didn't even want me around
And now I'm back
To let you know
I can really shake 'em down

Do you love me?
(I can really move)
Do you love me?
(I'm in the groove)
Ah, do you love?
(Do you love me)
Now that I can dance
(Dance)

(metrolyrics.com (Archiv-Version vom 08.11.2020))

Interpretation von Boston Dynamics 2020:

Do You Love Me?

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

;)

Die Vorstellung, dass womöglich eine neue Rasse auf der Erde entsteht, namentlich Androide fasziniert mich schon sehr, alleine schon wenn ich dabei an Detroit: Become Human denke :D Ich glaube aber nicht, dass es 2050 so weit sein wird, aber bis 2050 könnten wir womöglich unsterblich werden und in virtuelle Welten transferiert werden bzw. unser Bewusstsein.

uatu schrieb:Interpretation von Boston Dynamics 2020:

Oh man 😁 Danke dafür.
Das haben sie ja echt saucool hinbekommen.

Ich bin auf jeden Fall optimistisch was das angeht 😊

Auch wenns bei den "Jungs" nur um Programmierarbeit geht, aber Boston koennte den Kumpel mal als Frontfrau bei Kompressorhead auftreten lassen ! ;)


:mlp:

RickSanchez schrieb am 25.08.2020:Ich bin mir gar nicht sicher ob man überhaupt automatisierte Abläufe, die unmittelbar von einer KI gesteuert werden, will.
Soweit ich es verstehe, zielt man doch eher auf durch KI unterstütztes menschliches Handeln - und auf das Problem der Schnittstelle zwischen KI und Mensch.

Das ist natürlich nicht die Intention der Menschen. Die KI soll in Zukunft komplexe Aufgaben des Arbeitslebens erledigen können. Aber irgendwann kommt es zur Technologischen Singularität, Experten schätzen so 2050 und dann sind die Rechenleistungen der Roboter und sonstigen computergesteuerten Einheiten gleich/ schneller als das menschliche Gehirn. Bedeutet auch eine Einschätzung der eigenen Lage. Kurzum ein ganz gefährliche Entwicklungsstufe

@Sonnenenergie: Zum Thema Technologische Singularität gibt es einen umfangreichen eigenen Thread.

ich bedanke mich🤜🤛

Ein neues Parcour-Video von Boston Dynamics:

Atlas | Partners in Parkour

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Die Beweglichkeit der Boston Dynamics Atlas-Roboter wird immer beeindruckender. Ich bin gespannt, wie der angekündigte humanoide TESLA-Roboter -- von dem es nächstes Jahr Prototypen geben soll -- im Vergleich abschneiden wird.

Es wird nur noch wenige Jahre dauern, bis solche Roboter in grossem Umfang im Alltagsleben auftauchen werden.

Ein paar Einzelheiten zu dem in meinem vorhergehenden Beitrag erwähnten Tesla-Roboter aus der Präsentation am Tesla AI Day :



Original anzeigen (0,2 MB)

Original anzeigen (0,2 MB)

Eine zentrale Aussage von Elon Musk aus der Präsentation:

Can you talk to it and say, you know, "Please pick up that bolt and attach it to the car with that wrench", and it should be able to do that. It should be able to "Please go to the store and get me the following groceries", that kind of thing.

(Elon Musk am 19.08.2021 -- im Video ca. @4:10)

Übersetzt (sinngemäss):

Du kannst zu ihm sprechen, und ihm sagen "Bitte nimm diese Schraube, und befestige sie mit diesem Schraubenschlüssel am Auto", und er sollte in der Lage sein, das zu tun. Er sollte in der Lage sein "Bitte geh in den Supermarkt und hol mir die folgenden Lebensmittel" zu erledigen, solche Sachen.

uatu schrieb:Übersetzt (sinngemäss):

Du kannst zu ihm sprechen, und ihm sagen "Bitte nimm diese Schraube, und befestige sie mit diesem Schraubenschlüssel am Auto", und er sollte in der Lage sein, das zu tun. Er sollte in der Lage sein "Bitte geh in den Supermarkt und hol mir die folgenden Lebensmittel" zu erledigen, solche Sachen.

Mit genug Input (i.S.v. jeder Menge Programmierung im weitesten Sinne, und abgesehen von der Hardware, die das umsetzen muss), sollte das doch gar nicht so unmöglich sein, oder?

Zumindest sehe ich da nicht viel von KI, sondern eher nur Rechen- und Hardwareleistung. Oder macht eben diese Kombi KI aus?
Oder ist es gar anwendungsabhängig?