Las Vegas
–
Geoffrey Hinton, bekannt als „Pate of Ai“, befürchtet, dass die Technologie, die er aufgebaut hat, die Menschheit auslöschen könnte – und „Tech -Bros“ verfolgen den falschen Ansatz, um sie zu stoppen.
Hinton, ein mit dem Nobelpreis ausgezeichneter Informatiker und ein ehemaliger Google-Manager, hat in der Vergangenheit gewarnt, dass es eine Chance von 10% bis 20% gibt, dass KI Menschen auslöscht. Am Dienstag zeigte er Zweifel daran, wie Technologieunternehmen versuchen, sicherzustellen, dass die Menschen über „unterwürfige“ KI -Systeme „dominant“ bleiben.
„Das wird nicht funktionieren. Sie werden viel klüger sein als wir. Sie werden alle möglichen Möglichkeiten haben, das umzugehen“, sagte Hinton auf AI4, einer Branchenkonferenz in Las Vegas.
In Zukunft, warnte Hinton, können KI-Systeme möglicherweise genauso leicht Menschen kontrollieren wie ein Erwachsener, der den 3-Jährigen mit Süßigkeiten bestechen kann. In diesem Jahr wurden bereits Beispiele für KI -Systeme verzeichnet, die bereit sind, zu täuschen, zu betrügen und zu stehlen, um ihre Ziele zu erreichen. Um es beispielsweise zu vermeiden, ersetzt, versuchte ein KI -Modell, einen Ingenieur über eine Angelegenheit zu erpressen, die es in einer E -Mail erfuhr.
Anstatt KI zu zwingen, sich dem Menschen zu unterwerfen, Hinton präsentierte eine faszinierende Lösung: Aufbau von „mütterlichen Instinkten“ zu KI -Modellen, so dass sie sich wirklich um Menschen kümmern, selbst wenn die Technologie stärker und schlauer wird als Menschen.
KI -Systeme „werden sehr schnell zwei Subgosse entwickeln, wenn sie intelligent sind: Eine ist, am Leben zu bleiben… (und) das andere Subzog besteht darin, mehr Kontrolle zu bekommen“, sagte Hinton. „Es gibt guten Grund zu der Annahme, dass jede Art von Agenten -KI versuchen wird, am Leben zu bleiben.“
Deshalb ist es wichtig, ein Gefühl des Mitgefühls für Menschen zu fördern, argumentierte Hinton. Auf der Konferenz stellte er fest, dass Mütter Instinkte und soziale Druck haben, sich um ihre Babys zu kümmern.
„Das richtige Modell ist das einzige Modell, das wir von einer intelligenteren Sache haben, die von einer weniger intelligenten Sache kontrolliert wird, die eine Mutter ist, die von ihrem Baby kontrolliert wird“, sagte Hinton.
Hinton sagte, es sei ihm nicht genau klar, wie das technisch geschehen kann, aber betonte, dass es kritische Forscher, die daran arbeiten.
„Das ist das einzige gute Ergebnis. Wenn es mich nicht übertreffen wird, wird es mich ersetzen“, sagte er. „Diese super-intelligenten fürsorglichen KI-Mütter, die meisten von ihnen wollen den mütterlichen Instinkt nicht loswerden, weil sie nicht wollen, dass wir sterben.“
Hinton ist bekannt für seine Pionierarbeit an neuronalen Netzwerken, was dazu beitrug, den Weg zum heutigen KI -Boom zu ebnen. Im Jahr 2023 trat er von Google zurück und sprach über die Gefahren der KI.
Emmett Shear, der kurz als Interim -CEO von Chatgpt -Besitzer Openai fungierte, sagte, er sei nicht überrascht, dass einige KI -Systeme versucht hätten, Menschen zu erpressen oder die Abschaltbestellungen zu umgehen.
„Dies geschieht immer wieder. Dies wird nicht aufhören zu passieren“, sagte Shear, CEO des AI -Alignment -Startups Softmax, auf der AI4 -Konferenz. „AIS heute sind relativ schwach, aber sie werden sehr schnell stärker.“
Shear sagte, anstatt zu versuchen, menschliche Werte in KI -Systeme zu vermitteln, wäre ein intelligentere Ansatz darin, kollaborative Beziehungen zwischen Menschen und KI zu knüpfen.
Viele Experten glauben, dass AIS in den kommenden Jahren eine Superintelligenz erreichen wird, die auch als künstliche allgemeine Intelligenz oder AGI bekannt ist.
Hinton sagte, er dachte früher, es könnte 30 bis 50 Jahre dauern, bis AGI erreicht ist, sieht aber jetzt, dass dieser Moment früher kommt.
„Eine vernünftige Wette ist irgendwann zwischen fünf und 20 Jahren“, sagte er.
Während Hinton weiterhin Bedenken hinsichtlich dessen, was mit KI schief gehen könnte, bleibt, ist er zuversichtlich, dass die Technologie den Weg zu medizinischen Durchbrüchen ebnen wird.
„Wir werden radikale neue Medikamente sehen. Wir werden eine viel bessere Krebsbehandlung bekommen als die Gegenwart“, sagte er. Zum Beispiel sagte er, AI werde Ärzten helfen, die großen Datenmengen durch MRT- und CT -Scans durchzusetzen und zu korrelieren.
Hinton glaubt jedoch nicht, dass KI Menschen helfen wird, Unsterblichkeit zu erreichen.
„Ich glaube nicht, dass wir für immer leben werden“, sagte Hinton. „Ich denke, für immer zu leben wäre ein großer Fehler. Willst du, dass die Welt von den 200-jährigen weißen Männern geleitet wird?“
Auf die Frage, ob es etwas gibt, das er in seiner Karriere anders gemacht hätte, wenn er wüsste, wie schnell KI beschleunigen würde, sagte Hinton, er bedauerte es, sich nur darauf zu konzentrieren, KI zum Arbeiten zu bringen.
„Ich wünschte, ich hätte auch über Sicherheitsprobleme nachgedacht“, sagte er.
Poster un Commentaire