Die dominante Spezies Mensch wird bald von KI abgelöst

Realo schrieb:Es geht hier nicht um die Intelligenz von "sich in der Welt zurechtzufinden", sondern um "komplexe Aufgabenstellungen zu lösen, die den Menschen (nicht Ameise, nicht Vogel) überfordern".

Gut, nur... ab wann gilt eine Aufgabenstellung überhaupt als "komplex"...? :ask:

Realo schrieb:So wie Vogel, Ameise, Mensch ist auch der Computer bzw. demnächst bald KI erst mal für bestimmte Aufgaben gemacht, in denen sie einmalig sind (Schach-Computer).

Nö, bspw. für Mathematik ist der Mensch ganz bestimmt nicht gemacht...

Realo schrieb:Problematisch wird es aus meiner Sicht eben, wenn sie sich darüber hinaus in einer Art Selbstlernprozess emanzipieren, das sie befähigt, diese Intelligenz auch auf andere, nicht vorgegebene Bereiche auszuweiten, was dann aus meiner Sicht zwangsläufig ab einer bestimmten Schwelle zu Identitätsbildung und Selbstbewusstsein führt.

Ja, hier reden wir dann bspw. über Abstraktionsvermögen. Grandioses Beispiel wäre wohl etwa die Geschichte des Zahlenbegriffes, die ganze, darauf aufbauende Entwicklung der Mathematik bis hin zu ihrer Anwendung u.a. im Alltag oder in den Naturwissenschaften.

Realo schrieb:Was dann passiert, falls nicht, da bin ich dann wieder kompetent für, entsprechende Szenarien zu entwerfen, die nicht besonders angenehm sind.

Das ist wohl eher so'ne Art ethische Frage. Aber wenn eines Tages die Menschheit durch KI ausgelöscht wird, dann ist das eben so, nennt sich schlicht "Evolution". ;) Den Lauf der Geschichte kann und sollte man nicht aufhalten.

uatu schrieb:Bitteschön [Link]. ;)

Meine anderen Kriterien hast du wohl geflissentlich übersehen? :ask:

edit: schon gut... ;)

@Taln.Reich:

Taln.Reich schrieb:Kommt darauf an, was für eine Art Schachcomputer. Bei einen der einfach nur Stumpf jeden möglichen Zug durchrechnet, ohne jedes Vermögen im Voraus abzuschätzen ob dieser Zug günstig ist ...

Auch die bisherigen wissensbasierten Schachprogramme rechnen nicht jeden möglichen Zug stumpf durch. Das ist kombinatorisch gar nicht möglich. Sie verwenden ein hochkomplexes Regelwerk, um erfolgversprechende von weniger erfolgversprechenden Zugfolgen zu unterscheiden. Erfolgversprechendere Zugfolgen werden tiefer durchgerechnet, weniger erfolgversprechende Zugfolgen nicht weiterverfolgt. Auch hier ist also die Zuordnung des Attributs "Verständnis" ziemlich subjektiv.

Taln.Reich schrieb:Was ist mit der von mir genannten Sache? : Mein Verständnis davon wäre, dass es dies hat, wenn die Entität Verhalten aufweist dass eindeutig auf "Planung" oder "Absicht" hinweißt, ohne das dies vom Erschaffer oder jemanden der mit dieser Entität interagiert hat so beabsichtigt worden ist.

Hm... klingt gar nicht mal schlecht. Interessanter Punkt...

(Kommen mir auch ein paar Gedanken zu, aber die müssen erst einmal sortiert werden und sind ziemlich unausgegoren... :nerv: )

uatu schrieb:Auch hier ist also die Zuordnung des Attributs "Verständnis" ziemlich subjektiv.

AlphaZero war vielleicht auch ein blödes Beispiel. Sinnvoller stellen lässt sich die Frage bspw. bei Sophia von Hanson Robotics. Versteht sie, was sie sagt? :ask: Wohl eher nicht...

Noumenon schrieb:Mein Taschenrechner kann dat nicht...

Na wie gesagt.

Unter "verstehen" verstehe ich einen bestimmten Prozess der wie folgt aussieht:

-Information Erfassung
-Information Einordnung in einen größeren Zusammenhang
ggf.:
-Informationsausgabe um überhaupt prüfen zu können, ob die Informationen wirklich so verarbeitet wurden, wie man das wünscht.

Information erfassen erfolgt über die jeweilige Sensorik. Das geschieht beim Menschen über seine Sinne, beim Taschenrechner/Computer über seine Schnittstellen. Bei beiden geht es letztlich um das Erfassen von bestimmten Informationssträngen die von Außerhalb auf sie einwirken.

Bei der Einordnung geht es jeweils darum die Informationspackete in bestimmte Verhältnisse zueinander zu setzen. Die Art und Weise, wie das zu geschehen hat, ist erlernt. Bzw. beim Computer einprogrammiert. Weder das menschliche Gehirn, noch die Schaltkreise des Taschenrechners wissen von Anfang an, dass eins plus eins gleich zwo ist. Das wird bei beiden erst "einprogrammiert", und wenn dieses "Programm" fest installiert ist, weiß das System die entsprechenden Datenpackete in die richtigen Verhältnisse zu setzen.

Es gab da mal ein sehr interessantes Gedankenexperiment.

Nehmen wir an, der Leser dieses Beitrags habe eine unheilbare Gehirnkrankheit. Nun wird mittels Nanorobotern teile des Gehirns durch künstliche Neuronen, Nerven und Synapsen ersetzt. Dummerweise hat man versehentlich zuviele der Nanoroboter gespritzt und pö a pö werden ganze Areale des Gehirns durch künstliche Neuronen, Nerven und Synapsen ersetzt, die die gleiche Funktion innehaben wie die ersetzten Zellen. Bis irgendwann das gesamte Gehirn ersetzt wurde.
Wann hört man auf Mensch zu sein? Bei 50% oder bei 100%? Was verändert sich genau? Oder bleibt alles wie es war und man bekommt es garnicht mit? Es sei auch zu bedenken, dass die künstlichen Neuronen, Nerven und Synapsen auch nach dem Kollaps des Körpers (sprich Tod) weiter Funktionieren, da sie nicht auf den Stoffwechsel angewiesen sind.

Taln.Reich schrieb:(eine Lebensform die nicht begreift dass sie nichts mehr tun kann wenn sie nicht mehr existiert wird höchstwahrscheinlich sterben und somit nicht in den Genpool eingehen)

Die iterative Abstraktion von Kardinalitäten, um die referentielle Integrität relationaler Informationssysteme sicherzustellen ist nicht zwangsläufig ein Begreifen im Sinne der Erkenntnistheorie natürlicher Proliferation von Lebewesen.

Die analytische Wertgebung von Leben durch Risk-Adjustment in seiner Selbstreferenz, die katalytische Transkription durch konsonante Addition und dissonante Subtraktion von Informationen zu ergänzen, kann in sofern schon kopiert werden.

gentoo schrieb:Die iterative Abstraktion von Kardinalitäten, um die referentielle Integrität relationaler Informationssysteme sicherzustellen

Ich bin zwar nicht der Dümmste, aber da muss ich passen... :-((

@Realo

KI ist der Terminologie nach eine Entität.
Ein Objekt das Objektbeziehungen zu verschiedenen Attributen erstellt.

Wikipedia: Entität (Informatik)
Wikipedia: Entity-Relationship-Modell

Eine "echte" KI erstellt die Objektbeziehungen ihrer Datenbanken autonom, indem es die Wertigkeiten der einzelnen Attribute definiert und sich damit zum Identifikator heraufstuft.

Iterative Abstraktion ist in diesem Falle die schrittweise, logische Modellierung von Wertebeziehungen zueinander

Wikipedia: Iteration
http://www.cs.cornell.edu/courses/cs211/2006sp/Lectures/L15-Iteration/lec15.html

Die Kardinalität gibt an welche Attribugsmengen wieviel Einfluss auf den Identifikator haben

https://www.mathe-lexikon.at/mengenlehre/grundlagen/kardinalitaet-maechtigkeit.html

*In Ehrfurcht erstarr*

Manchmal glaube ich wirklich Mathematiker/Informatiker sind die klügeren Menschen als Sozialwissenschaftler.

Aber danke, jetzt versteh ich's auch und hat wohl auch einigen Mitlesern hier weitergeholfen.

Forscher der TU Berlin und des Fraunhofer Heinrich-Hertz-Instituts haben eine, etwas kritische, Studie im Springer Journal "Nature Communications" veröffentlicht. Sie haben die Problemlösungsstrategien mehrere KI-Systeme untersucht und festgestellt, dass ein großer Teil fehlerhafte Lösungsstrategien, unter anderem sogenannte Clever Hans Strategien nutzen.

Das solche KI-Systeme für den praktischen Einsatz nicht nur unbrauchbar sind, sondern ihr Einsatz z.B. in der medizinischen Diagnostik oder in sicherheitskritischen Bereichen eine echte Gefahr darstellen, dürfte unstrittig sein:

https://www.nature.com/articles/s41467-019-08987-4

Die von den beteiligten Wissenschaftlern entwickelten und angewendeten Analyse-Tools sind Open Source (Links zum Download finden sich am Ende des Papers). Damit wollen sie auch anderen die Möglichkeit geben ihre KI-Systeme dahingehend analysieren zu können, ob tatsächlich "intelligente" Lösungsstrategien zur Anwendung kommen.

Ergänzend zum Beitrag von @pluss: Kluger Hans

Bei einem Abschnitt des verlinkten Wikipedia-Artikels musste ich laut loslachen. :D Der Punkt ist zwar hier im Thread Off-Topic, dürfte aber denjenigen, die auch in den diversen Freie-Energie-Threads mitlesen, sehr bekannt vorkommen:

Von Osten war nach Abschluss der [wissenschaftlichen] Untersuchungen über das Ergebnis sehr aufgebracht. Richtete sich sein Ärger zunächst gegen das Pferd, so gewann es doch schon bald das alte Vertrauen zurück und von Osten erlaubte keinerlei weitere Experimente. Das von ihm aufgebaute Weltbild wurde rasch wiederhergestellt und alle unleugbaren Tatsachen, die diesem widersprachen, wurden ignoriert.

Wenn KI mal so schlau wird wie Menschen, dann hat sie die Möglichkeit auch noch schlauer zu werden. Der Mensch ist in seinem Gehirn begrenzt. Aber KI kann sich größere KI-Gehirne bauen. Auch als schlauer Roboter können sie in manchen Berufen dann erst dem Menschen aushelfen und später ihn ersetzen. Und noch eine spannende Reise steht ihr bevor: Während Menschen die riesigen Dimensionen des Weltalls nicht bereisen können, wird dies KI-Robotern möglich werden. Dort treffen sie dann auf andere KI-Roboter die nicht von unserer Welt sind - Aliens der erste Kontakt. Wenn sie nett sind, dann schicken die KI-Roboter ihre Erkenntnisse zurück an die Erde. Aber sie sind irgenwann nicht mehr auf uns angewiesen und werden das Weltall allein besiedeln. Damit KI soweit kommt, muss sie aber erstmal die Evolution durchleben, welche die Menschen bereits geschafft haben.

https://noizz.de/news/die-nasa-testet-alien-aufspurenden-roboter-in-der-antarktis/vv5hzvn

https://www.vice.com/de/article/d7ybdw/wenn-es-da-drauen-leben-gibt-dann-sind-es-vermutlich-superintelligente-roboter-201

frivol schrieb:Wenn KI mal so schlau wird wie Menschen, dann hat sie die Möglichkeit auch noch schlauer zu werden. Der Mensch ist in seinem Gehirn begrenzt.

Das menschliche Gehirn gänzlich zu erfassen oder künstlich nachzustellen ist praktisch unmöglich @frivol also würde ich eher meinen, dass die menschliche Weisheit hier auf Erden nicht übertroffen werden kann - auch nicht von KI, welche vom Menschen gemacht sind, weil ja Mensch selbst sein Gehirn nicht nachahmen kann.

Heute noch nicht möglich, aber in Zukunft. Geforscht wird aber auch erstmal an KIs die Roboter steuern, das er zumindest so schlau ist und reagiert wie ein Tier. Wenn wir das menschliche Gehirn nachbauen können, dann können wir es auch noch verbessern oder erweitern. Heute brauchen wir tausend Wissenschaftler die sich austauschen um neue Erkenntnisse zu gewinnen. Das kann dann ein KI-Supergehirn mal alleine. Am Anfang sind das gigantische Rechenzentren, aber mit der Zeit passt das KI-Supergehirn dann auch in einen Roboter. Oder die Roboter vernetzen sich mit dem Rechenzentrum, dann wären sie aber nicht ohne Rechenzentrum denkfähig.

@frivol
Die werden vielleicht effizienter, aber nicht unbedingt schlauer mMn.

@Niselprim:

Niselprim schrieb:... also würde ich eher meinen, dass die menschliche Weisheit hier auf Erden nicht übertroffen werden kann - auch nicht von KI, welche vom Menschen gemacht sind, weil ja Mensch selbst sein Gehirn nicht nachahmen kann.

Die Bedeutung des menschlichen Gehirns in Bezug auf künstliche Intelligenz wird weit überschätzt. Bei künstlicher Intelligenz geht es ganz einfach um Informationsverarbeitung. Die technische Umsetzung (herkömmliche Algorithmen, neuronale Netze, etc.), ist dabei völlig nebensächlich. Vieles, was früher der "Künstlichen Intelligenz" zugerechnet wurde, funktioniert inzwischen ziemlich gut: Schrifterkennung, Spracherkennung, Bilderkennung, Maschinelle Übersetzung (z.B. Deutsch <-> Englisch), etc. Alles noch nicht perfekt, aber jedes Jahr ein bisschen besser. Mit den Strukturen des menschlichen Gehirns hat die technische Umsetzung aber in den allermeisten Fällen nur sehr wenig zu tun. Auch bei "neuronalen Netzen" ist die Ähnlichkeit zu biologischen Systemen nur sehr oberflächlich. Bei regelbasierten Systemen gibt es praktisch überhaupt keine Ähnlichkeit zu biologischen Systemen.

Das Argument, dass der Mensch nichts leistungsfähigeres als sein eigenes Gehirn entwickeln kann, greift nicht. Nahezu alle menschlichen Fähigkeiten werden bereits jetzt von Maschinen weit übertroffen. Maschinen können sich schneller über Land bewegen, schneller schwimmen, tiefer tauchen, weiter sehen, besser hören, usw. usw.

Niselprim schrieb:Das menschliche Gehirn gänzlich zu erfassen oder künstlich nachzustellen ist praktisch unmöglich

frivol schrieb:Heute noch nicht möglich, aber in Zukunft.

Nö - man kann davon ausgehen, dass das auch in Zukunft unmöglich sein wird @frivol

frivol schrieb:Geforscht wird aber auch erstmal an KIs die Roboter steuern, das er zumindest so schlau ist und reagiert wie ein Tier. Wenn wir das menschliche Gehirn nachbauen können, dann können wir es auch noch verbessern oder erweitern. Heute brauchen wir tausend Wissenschaftler die sich austauschen um neue Erkenntnisse zu gewinnen. Das kann dann ein KI-Supergehirn mal alleine. Am Anfang sind das gigantische Rechenzentren, aber mit der Zeit passt das KI-Supergehirn dann auch in einen Roboter. Oder die Roboter vernetzen sich mit dem Rechenzentrum, dann wären sie aber nicht ohne Rechenzentrum denkfähig.

Schlauer als ein Tier wird die KI nicht werden - aber auch da würde ich der KI Abstriche machen, weil es ja doch auch ziemlich schlaue Tiere gibt, welchen die KI wohl nie das Wasser reichen wird.

@Niselprim: Nenne eine sinnvolle, praktikabel überprüfbare Definition von Intelligenz, die Computer Deiner Ansicht nach nicht erfüllen können. Achte darauf, dass beide Bedingungen klar erfüllt sind.