Gabrieldecloudo schrieb:Bis wir eine gute KI erfunden haben.
Und dann? Nehmen wir an, wir haben eine KI entwickelt die alle Probleme der heutigen Welt lösen kann, wenn wir die Zeit ausdehnen wird sie sicher auf eins treffen das sie nicht lösen kann.
Was dann? Programmiert die KI eine neue KI die noch leistungsfähiger ist, wie bei PAddG. Programmiert sie sich metaprogrammierend selber neu?
Was ist das überhaupt was man da Programmieren muss? Ist ein beliebiges Ding mit einem Verstandesvolumen von X in der Lage ein Ding mit einem Verstandesvolumen >X zu erschaffen?
Damit einhergehend, kann ein Mensch oder auch ein Team von Menschen überhaupt ein Wesen erschaffen das klüger ist als alle Menschen? müsste es dieses Wesen nicht verstehen bevor es es erschaffen kann?
Wenn KI die leistungsfähiger ist als Menschen, kann sie dann vielleicht nur zufällig entstehen?
Die Seed-AI These mag ja interessant sein, ich allerdings halte das exponentielle Intelligenzwachstum durch Maschinen die verbesserte Nachfolger bauen, für reichlich weit dahergeholt.