»'A certain danger lurks there': how #JosephWeizenbaum, the inventor of the first #chatbot, turned against #AI.« https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai?utm_source=eicker.news

Insightful and I think essential reading on the topic of contemporary #AI.

Told through the life and ideas of #JosephWeizenbaum, self proclaimed AI heretic ego invented the chatbot, a short computer program he called #Eliza.

In its time Eliza was at least as significant in impact as #ChatGPT.

https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai
#LLM

"Computer scientist Joseph Weizenbaum was there at the dawn of artificial intelligence – but he was also adamant that we must never confuse computers with humans"

Weizenbaum saw AI as based on trickery. But then so too is much human communication. Or at least fundamentally constrained understanding.

#AI #JosephWeizenbaum #psychology

https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai

"Der meiste Schaden, den der Computer potenziell zur Folge haben könnte, hängt weniger davon ab, was der Computer tatsächlich kann oder nicht kann, als vielmehr von den Eigenschaften, die das Publikum dem Computer zuschreibt."

Bezüglich der Mystifikation des Computer oder heute insbesondere der KI, sollten sich diverse Zeitgenossen vielleicht einfach mal die Werke Joseph Weizenbaums zu Gemüte führen. #JosephWeizenbaum #KI #AI #chatgpt #computer #eliza

> We’ve learned to make “machines that can mindlessly generate text,” Bender.. “But we haven’t learned how to stop imagining the mind behind it.”.. #JosephWeizenbaum, who created #ELIZA, the first #chatbot, in 1966, spent most of the rest of his life regretting it.. he wrote ten years later in Computer Power and Human Reason.. that.. The toys are fun, enchanting, and addicting, and that, he believed even 47 years ago, will be our ruin:
https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html
#EmilyMBender #EmilyBender

> “On the one hand the computer makes it possible in principle to live in a world of plenty for everyone, on the other hand we are well on our way to using it to create a world of suffering and chaos. Paradoxical, no?”
> “there are certain tasks which computers ought not to be made to do, independent of whether computers can be made to do them.”
https://librarianshipwreck.wordpress.com/2023/01/26/computers-enable-fantasies-on-the-continued-relevance-of-weizenbaums-warnings/
#JosephWeizenbaum #ComputerPowerAndHumanReason

> in 1962, #Weizenbaum was already noting that when it came to the matter of fooling people, it was also quite possible for the program’s author to wind up fooling themselves, as he put it “programs which become so complex…that the author himself loses track, obviously have the highest IQ’s.” In other words, understanding the program did not guarantee protection..
https://librarianshipwreck.wordpress.com/2023/01/26/computers-enable-fantasies-on-the-continued-relevance-of-weizenbaums-warnings/
#ElizaEffect #JosephWeizenbaum #TheFifthGeneration

#JosephWeizenbaum zum 100.: „Please go on“ – Joes #Computer spricht Englisch.

Joseph Weizenbaum gilt als #Pionier der kritischen Informatik. Am Sonntag wäre der selbsternannte „Dissident“ und „Ketzer der Informatik“ 100 Jahre alt geworden. Sein gesellschaftskritisches Werk, das das Denken nicht den Computern überlassen wollte, ist heute aktueller denn je. ...

https://netzpolitik.org/2023/joseph-weizenbaum-zum-100-please-go-on-joes-computer-spricht-englisch/

@da5id Danke fürs Erinnern! Ich hatte als Studentin mal das Glück, ihn zu treffen (ich glaube 2003?). Er war für einen Vortrag gekommen und hat sich danach einfach ins Studentencafé gesetzt und sich mit uns unterhalten. Es hat ihn wirklich interessiert, was wir denken. Das hat mich damals schwer beeindruckt.
#JosephWeizenbaum

"Die Macht der Computer und die Ohnmacht der Vernunft" von #JosephWeizenbaum ist auch heute noch eine Empfehlung wert.

Stellenweise anstrengend zu lesen, aber größtenteils eine hilfreiche Lektüre, die beim Einordnen vergangener und gegenwärtiger Entwicklungen unterstützt.

Missing Link: Joe Weizenbaum und die vergifteten Früchte des Wahnsinns

Er gilt als Pionier der kritischen Informatik, die das Denken nicht den Computern überlassen will. Joseph Weizenbaum ist vor 100 Jahren in Berlin geboren.

https://www.heise.de/hintergrund/Missing-Link-Joe-Weizenbaum-und-die-vergifteten-Fruechte-des-Wahnsinns-7450611.html?wt_mc=sm.red.ho.mastodon.mastodon.-.-

#ELIZA #FIfF #Informatik #JosephWeizenbaum #KünstlicheIntelligenz #MIT #MissingLink

Der Holocaustüberlebende und Internetpionier #JosephWeizenbaum wäre heute 100 Jahre alt geworden.

Der 2008 gestorbene Informatiker hielt das Internet für einen "Schrotthaufen mir Perlen drin". I feel you, Joseph, I feel you.

https://www.tagesspiegel.de/wissen/der-ketzer-der-informatik-was-chatgpt-und-internet-mit-joseph-weizenbaum-zu-tun-haben-9137928.html

Der Artikel bringt die Funktionsweise und die Missverständnisse um #ChatGPT recht gut auf den Punkt. Die eigentlich spannende Erkenntnis ist, wie leicht sich Menschen täuschen lassen (insbesondere wenn die etwas glauben möchten). Andererseits wissen wir das aber auch schon seit #JosephWeizenbaum's #ELIZA aus den 60ern.

"ChatGPT: Der Roboter schwafelt - 9 Missverständnisse um die KI"
https://www.nzz.ch/technologie/chat-gpt-der-roboter-schreibt-nicht-er-schwafelt-ld.1717513