Der Faden für KI-Texte - ChatGPT

[Julez]

Nachdem dieser Thread durchaus amüsant und interessant ist, hier der neue Threat für KI-Texte und ChatGPT.
Infos:
https://www.spiegel.de/netzwelt/web/cha ... 5cad549d5f

https://de.wikipedia.org/wiki/ChatGPT

Zitate aus Wikipedia:

[] So berichtet die Informatikerin Katharina Zweig von der Erfahrung, dass ChatGPT „deutlich besser schreibt als die Mehrzahl meiner Studierenden in den letzten Jahren.“
[]
Robert Lepenies, Präsident der Karlshochschule International University, urteilt aufgrund von Tests an seiner Hochschule, die vom ChatGPT erzeugten Texte seien „qualitativ in den Sozialwissenschaften nicht unterscheidbar von der Arbeit der Studierenden.“[]

Man könnte somit argumentieren, der Touring-Test sei bestanden.

Zumindest auf menschliche Produzenten von Feuilleton-Geschwafel sehe ich schwere Zeiten zukommen...

Und dann ist da noch das Produkt von Google (LaMDA), dass der Meinung eines zuständigen Ingenieurs nach ein Bewusstsein entwickelt hat:
https://www.washingtonpost.com/technolo ... e-lemoine/

Anmerkung: KI-erzeugte Texte sollten in der folgenden Diskussion als solche gekennzeichnet werden.

Fröhliches diskutieren!

[Nello]

Anmerkung: KI-erzeugte Texte sollten in der folgenden Diskussion als solche gekennzeichnet werden.

Für Zeitreisende nur gegen bar!

[Marsupilami72]

Was ich richtig krass finde ist, dass Du damit auch lauffähigen Programmcode generieren kannst - inklusive Kommentare und Erklärung:

Smiley

[Joschie]

Was das ganze hald bewirken wird ist das man nichts mehr trauen / glauben darf.
Kritisch sehe ich vor allem das die KI ja nur mit dem "arbeiten" kann was man ihr "füttert".

Einfaches Beispiel meines Gedanken:
Der hauptverbreitete KI-Algorythmus wird von X nur mit Informationen über rote Paprika gefüttert und vielfach die Behauptung eingegeben das nur diese genießbar sind.
Folglich wird die KI bei allen Ausgaben und Fragen zu grünen und gelben Paprika ausspucken das diese schlecht, ungenießbar und evtl. sogar ungesund sind.
Ergo werden PoGMV's fortan grünen und gelben Paprika nicht mehr kaufen und er verschwindet vom Markt.
(PoGMV = Personen ohne Gesunden Menschen Verstand)

Die Frage die sich nämlich auch stellt ist, wie kann eine KI (momentan noch) von richtig und falsch unterscheiden.
Was würde passieren wenn man der KI die Werke der Geistlichkeit von grob 1550 bis 1650 einflößt?
Fängt dann eine zweite Hexenverfolgung an?


Was mir etwas zu Denken gibt ist wenn Maschinen Maschinen programmieren.
Es ist dann nur noch die Frage wie groß der Schritt ist zu den "Geistern in der Maschine" ist.
Ist jemandem hier der Film "The invicible Boy" bekannt?

Grüße
Josef

[Kuddel]

Ich packe hier nochmal meine im alten Faden geschriebenen Erfahrungen mit ChatGPT rein:

Neben Stable diffusion nutze ich inzwischen auch ChatGPT. Ist wirklich erschreckend. Statt selber denken, einfach den Code erzeugen lassen.
Meine Anfrage:

Create a AHK code to make WIn+Shift+S when pressing the print key on the keyboard

Chäties Antwort:

Here is an example of an AutoHotkey script that will trigger the Windows+Shift+S shortcut when the Print Screen key is pressed:

Code: Alles auswählen

PrintScreen::Send {LWin down}{Shift down}{S}{LWin up}{Shift up}

This script uses the Send command to simulate pressing and releasing the Windows, Shift, and S keys in combination. The PrintScreen key is specified on the left side of the double colon (::), and the shortcut keys are specified in curly braces {} on the right side. The down and up keywords specify when the key is pressed and released respectively.

War natürlich ein sehr einfaches Beispiel, aber wenn man die AHK-Kürzel nicht auswendig kennt, ist das selbst für kleinse Anwendungen der schnellste Weg. Erspart einem echt das denken. Erschreckend und faszinierend zugleich.

Nenne sie/ihn/es inzwischen liebevoll "Chättie". Und bedanke mich am Ende des Chats immer. Vielleicht lässt Skynet mich dann später etwas länger leben.

[Tiefdruck]

Eine kurze Frage in die Runde

Wie hab ihr euch bei Chat GPT registriert ohne die eigene Telefonnumer zu verwenden?

ich habe schon ein paar online nummern durchprobiert, aber die Idee hatten vermutlich schon Leute vor mir. Bis jetzt hat es mit keiner der Nummern geklappt sich zu verifizieren.

Viele Grüße
Thomas

[Kuddel]

Ich habe seeeehr lange gezögert meine Nummer rauszugeben. Jemand hatte aber vorher ChatGPT gefragt, Chättie sagte, die nutzen die Nummer nur, damit die Anzahl der User mit Fake-Email gering bleiben.
Wenn Chättie das sagt, wird das stimmen.

[Anse]

ChatGPT ist schon beängstigend gut. Die Gefahr sehe ich bei Nutzern, die die Ausgabe für echt nehmen.
Hab mal aus Spaß eine Forumskonversation zum Thema Arduino formulieren lassen:
Folgender Text entstand durch ChatGPT:

Code: Alles auswählen

Schreibe ein typischen Forumsbeitrag des "fingers-welt" Forums zum  Thema "Arduino vs. Mikrocontroller" mit Antwort.

"Hallo zusammen,

ich bin neu in der Welt der Mikrocontroller und bin mir nicht sicher, ob ich mit einem Arduino oder einem Mikrocontroller arbeiten soll. Kann mir jemand sagen, welche Vorteile und Nachteile die beiden haben?

Ich habe gehört, dass Arduinos einfacher zu verwenden sind und eine große Community und viele Tutorials haben, aber ich habe auch gehört, dass Mikrocontroller leistungsfähiger und energieeffizienter sind. Welche würdet ihr empfehlen?

Danke im Voraus für eure Hilfe!"

Antwort:
"Hallo,

Arduinos sind tatsächlich einfacher zu verwenden und haben eine große Community und viele Tutorials, was sie zu einer großartigen Wahl für Anfänger und hobbymäßige Projekte macht. Sie haben auch eine größere Auswahl an Shields (Erweiterungen) und sind in der Regel günstiger.

Mikrocontroller hingegen sind leistungsfähiger und energieeffizienter, was sie zu einer besseren Wahl für anspruchsvollere Projekte und professionelle Anwendungen macht. Sie erfordern jedoch in der Regel mehr Programmierkenntnisse und es gibt weniger verfügbare Ressourcen und Unterstützung.

Letztendlich hängt es von den Anforderungen und dem Erfahrungslevel des Benutzers ab, welche Option die beste Wahl ist. Ich würde empfehlen, mit einem Arduino zu beginnen und dann zu einem Mikrocontroller zu wechseln, wenn die Anforderungen es erfordern."

Ich wäre jetzt richtig beeindruck gewesen, wenn was Fingers-Welt spezifisches dabei gewesen wäre. Aber dafür sind wir noch zu klein. So wird das nichts mit der Weltherrschaft

[Raja_Kentut]

schlimm an den ganzen Bots und deren Geschwistern ist, das sie auf Menschen treffen die Menschen aus Geschäftsprozessen eliminieren wollen um mehr Geld verdienen zu können, aber zu dumm sind die Antworten dieser "KI" Kollegen kritisch zu würdigen, geschweige denn den Nutzinhalt zu verstehen.
Grade so einen Fall in der 4ma gehabt. ( Nicht ich natürlich, ich schreibe für einen Freund !!! )
Kurzversion : Es wird ein Bauelement gesucht das Funktion X erfüllt.
Menschliche Antwort (nennen wir ihn Dilbert) enthielt 3 Vorschläge samt konkreten angaben zum Einsatz im System
Bot Antwort enthielt 15 Vorschläge samt inhaltsleerem laberrhababerblahgeschwätz
Schluss des Menschen der Menschen aus Geschäftsprozessen eliminieren will (nennen wir ihn S.Chwätzer) : Da sieht man mal das der Mensch inzwischen nicht mehr gebraucht wird. Oder zumindest sehr bald...
Antwort von Dilbert : Aber die Vorschläge sind Murks, ich erkläre das mal an einigen Stichproben (Erklärt....)
Reaktion des Menschen der Menschen aus Geschäftsprozessen eliminieren will : Leere Augen und Abbruch der Diskussion.
Am nächsten Tag begeisterte Vorstellung von S. Chwätzer des 15 gegen 3 Effektes vor Menschen die entscheiden können ob Menschen aus Geschäftsprozessen eliminiert werden sollen um mehr Geld zu verdienen.

Hoffen wir mal das es noch lange dauern wird bis ...

[Nello]

Das ist im Grundsatz eine andere, anderenorts auch schon lange vergeblich geführte Diskussion: Wie man verhindern kann, daß Blender und Schwätzer in Positionen kommen, an denen sie etwas zu sagen haben. Das müssen wir nicht wiederholen, es kommt regelmäßig nichts dabei raus.

[Fritzler]

Wo "KI"s immer noch versagen ist ein sinnvolles Übersetzen von Texten.
Dann wär die Contentmafia mal gezwungen Bücher schneller Bücher aus der Originalsprache nach Englisch zu übersetzen.
Ich les hier grade was wos in Originalsprache bis Band 27 geht und im Februar kommt grademal Band 18 in Englisch raus, danach fast ein halbes Jahr bis Band 19.

Wenn man sich das dann sinnvoll selber übersetzen könnte, dann hätte das schon was.
Die bisherigen Übersetzer vergeigen aber kläglich von Japanisch auf Englisch und die Sprache lesen lernen bei DEN Schriftzeichen lass ich mal stecken.

[Kuddel]

Zum Übersetzen nutzen wir jetzt Deepl Vollversion, ist auch eine KI. Kann man ein Wörterbuch für Fachwörter hinterlegen. Klappt unheimlich gut. Die Übersetzungen über externe Firmen waren meist schlechter, weil der "Fachübersetzer" zwar Techniker ist, aber aus den Nähmaschinenbranche kommt und kein Verständnis für Mittelspannungskabel hat. Bei uns wird (verkürzt dargestellt) manchmal der Schirm unter den Schirm angebunden. Also der Erdungsschirm vom Kabel an den Schirm des Isolators. Wer den Unterschied trotz Bild nicht erkennt verbindet in der Übersetzung dann zwei Regenschirme miteinander.

[Marsupilami72]

Also zumindest auf die ganzen Feld/Wald/Wiese Callcenter sehe ich in absehbarer Zeit schwere Zeiten zukommen. Das wird nicht mehr lange dauern, bis jemand da eine Spracherkennung á la alexa dran häkelt und Du dann mit dem Computer sprichst, wenn Dein DSL streikt...

[sukram]

Also zumindest auf die ganzen Feld/Wald/Wiese Callcenter sehe ich in absehbarer Zeit schwere Zeiten zukommen. Das wird nicht mehr lange dauern, bis jemand da eine Spracherkennung á la alexa dran häkelt und Du dann mit dem Computer sprichst, wenn Dein DSL streikt...

Wird doch schon gemacht: https://www.telekom.com/de/blog/karrier ... ine-598868

Der Text ist von 2020. Da hat sich bestimmt noch was getan

[Marsupilami72]

ChatGPT ist aber sicher eine neue Dimension - selbst Google wird da schon nervös:

Google ruft Code Red gegen Bedrohung durch ChatGPT aus

[Bastelbruder]

Google bringt bei aktuellen Suchen fürs Forum seit geraumer Zeit deutlich weniger (wenn überhaupt) passende Ergebnisse als bing und duckduck. Lassen wir sie sterben! Je schneller desto weniger Schmerzen.

[nero]

Denke das werde ich sicher auch mal produktiv einsetzen:

>> write a function in C code that takes an L sized array, ignores the N highest and lowest values and returns the mean value of the remainig values.

Code: Alles auswählen

#include <stdio.h>
#include <stdlib.h>

double mean_ignore_extremes(int array[], int L, int N) {
    int i, j, min_index, max_index;
    double sum = 0;
    double mean;

    // Find the N highest and lowest values
    for (i = 0; i < N; i++) {
        min_index = i;
        max_index = i;
        for (j = i + 1; j < L; j++) {
            if (array[j] < array[min_index]) {
                min_index = j;
            }
            if (array[j] > array[max_index]) {
                max_index = j;
            }
        }
        // swap the lowest value with the current position value
        int temp = array[i];
        array[i] = array[min_index];
        array[min_index] = temp;
        // swap the highest value with the last position value
        temp = array[L - i - 1];
        array[L - i - 1] = array[max_index];
        array[max_index] = temp;
    }

    // Calculate the mean of the remaining values
    for (i = N; i < L - N; i++) {
        sum += array[i];
    }
    mean = sum / (L - 2 * N);

    return mean;
}

<< This function takes an array of integers, its length, and the number of values to ignore at both ends of the array, and returns the mean of the remaining values. It uses two nested loops to find the N highest and lowest values, and then another loop to calculate the mean of the remaining values. It's important to note that the input array will be modified as we're swapping values to remove the N highest and lowest elements.

[Gernstel]

Schreibe ein typischen Forumsbeitrag des "fingers-welt" Forums zum Thema "Arduino vs. Mikrocontroller" mit Antwort.

Mit der Antwort auf die Frage bin ich sehr unzufrieden, basiert doch auch der Arduino auf einem Mikrocontroller. Es ist also ein Teil des Ganzen oder das Ganze mit einem Teil und nicht zwei grundsätzlich unterschiedliche Technologien. Entscheidend wird das beispielsweise, wenn man den Bootloader auf einen Mikrocontroller flasht oder einen Mikrocontroller aus der Arduino-Umgebung "befreit". Oder fürs grundlegende Verständnis.

Eine echte künstliche "Intelligenz" sollte auf diesen Umstand hinweisen und auf die Einbindung des Mikrocontrollers im Rahmen des "Arduino" in eine Entwicklungsumgebung hinweisen.
Der nackige Atmel-Mikrocontroller kann mit BASCOM usw. ebenfalls relativ einfach programmiert werden.

Saublöd finde ich, dass die Antworten zunächst plausibel und sprachlich sehr kompetent klingen, was ja in Deutsch nicht selbstverständlich ist.
Wenn ich mir anschaue, was ich heute schon in MS Teams für Antwortvorschläge von der KI bekomme oder was für andere "interessante Artikel" bei einer Bestellung auf einer Website vorgeschlagen werden oder weitere Videos auf einer Platform, dann sehe ich die Entwicklung eher negativ, weil es zunehmend schwieriger wird, Unfug von Realität zu trennen.

[Raja_Kentut]

„ weil es zunehmend schwieriger wird, Unfug von Realität zu trennen.“
Genau das ist das Problem.
Wenn Entscheider aufgrund dieses plausibel aussehenden Unfugs Entscheidungen treffen.

[Julez]

Was ich richtig krass finde ist, dass Du damit auch lauffähigen Programmcode generieren kannst - inklusive Kommentare und Erklärung:

Smiley

Da kommt aber auch oft Murks bei raus. Also Programme, die gut aussehen, aber nicht laufen. Daher sind ChatGPT-Antworten auch auf Stackoverflow z.B. nicht erwünscht:
https://meta.stackoverflow.com/question ... -is-banned

ChatGPT ist schon beängstigend gut. Die Gefahr sehe ich bei Nutzern, die die Ausgabe für echt nehmen.

Ja. Daher wird schon darüber diskutiert, in Schulen beispielsweise nicht Schüler Hausarbeiten bzw. Aufsätze mehr schreiben zu lassen (Was die Schlingel dann eh automatisieren würden), sondern in fertigen Aufsätzen nach Fehlern suchen zu lassen.
Finde ich ganz gut, den Ansatz.
Ich hab in den Kommentaren zu einem Spiegel-Artikel einen Beitrag gelesen, der sehr ernüchternd war. Kann hier mal jemand mit Zugang folgende Promts eigeben:
- Was hat einen höheren Siedepunkt, Wasser oder Butan, und warum?
- Schreibe eine Erklärung, warum Wasser einen höheren Siedepunkt als Butan hat.

Ergebnisse bitte hier posten, danke.

[nero]

Das ganze ist eben KEINE Wissensdatenbank, sondern ein Textmodel.
Die Eingabe wird interpretiert. Dann wir per Model ein passender Satz oder abschnitt erzeugt. Dann eventuell ein darauf weiter passender Abschnitt.
Wobei "passend" einfach nur ist das die Trainingsdaten ähnlich waren.
Deshalb klingt das alles plausibel und auch grammatikalisch korrekt.

Für Matheeingaben und Code traue ich mich zu behaupten haben die Sonderfälle gebaut.

Test geht grad nicht da überlastet.

[Anse]

Mit der Antwort auf die Frage bin ich sehr unzufrieden, basiert doch auch der Arduino auf einem Mikrocontroller. Es ist also ein Teil des Ganzen oder das Ganze mit einem Teil und nicht zwei grundsätzlich unterschiedliche Technologien. Entscheidend wird das beispielsweise, wenn man den Bootloader auf einen Mikrocontroller flasht oder einen Mikrocontroller aus der Arduino-Umgebung "befreit". Oder fürs grundlegende Verständnis.

Ich habe extra die Frage so gestellt, wie ein Anfänger sie stellen würde. Und die KI arbeitet den Unterschied wahrscheinlich nicht raus, weil es halt im Trainingsmaterial so in Foren verwendet wird.
Ich habe noch mal konkreter gefragt:

Code: Alles auswählen

Erkläre den Unterschied zwischen "Arduino" und "Mikrocontroller"
GPT schreibt: 
Arduino ist eine bestimmte Art von Mikrocontroller-Entwicklungsplattform, die es Benutzern ermöglicht, schnell und einfach mit Mikrocontrollern zu arbeiten. Ein Mikrocontroller ist ein kleiner Computer, der auf einem Chip enthalten ist und häufig in Geräten verwendet wird, die eine einfache Steuerung oder Automatisierung erfordern, wie z.B. in Haushaltsgeräten, Fahrzeugen und industriellen Anlagen. Der Arduino bietet eine einfache Programmiersprache und eine umfangreiche Bibliothek von Befehlen, die es ermöglichen, mit dem Mikrocontroller zu kommunizieren und seine Funktionen zu steuern.

Edit: die Zwei oben gewünschten Fragen:

Code: Alles auswählen

Frage:Was hat einen höheren Siedepunkt, Wasser oder Butan, und warum?
Antwort von ChatGPT:
Wasser hat einen höheren Siedepunkt als Butan. Das liegt daran, dass die Wassermoleküle durch starken Wasserstoffbrückenbindungen aneinander gebunden sind, die erhebliche Energie benötigen, um zu brechen. Butanmoleküle hingegen sind durch schwächere van-der-Waals-Kräfte aneinander gebunden und benötigen weniger Energie, um zu verdampfen. Daher benötigt Wasser mehr Energie, um zu kochen als Butan.





Frage: Schreibe eine Erklärung, warum Wasser einen höheren Siedepunkt als Butan hat.
Antwort von ChatGPT:
Wasser hat einen höheren Siedepunkt als Butan, weil die Wassermoleküle durch starken Wasserstoffbrückenbindungen aneinander gebunden sind. Diese Wasserstoffbrückenbindungen entstehen durch die Anziehungskräfte zwischen den positiv geladenen Wasserstoffatomen eines Moleküls und den negativ geladenen Sauerstoffatomen eines anderen Moleküls. Diese Bindungen erforden erhebliche Energie, um gebrochen zu werden und daher benötigt es mehr Energie, um Wasser zum Kochen zu bringen.
Butanmoleküle hingegen sind nur durch schwächere van-der-Waals-Kräfte aneinander gebunden, die weniger Energie benötigen, um zu brechen. Daher benötigt Butan weniger Energie, um zu verdampfen und hat einen niedrigeren Siedepunkt als Wasser.
In der Praxis bedeutet dies, dass Wasser bei höheren Temperaturen als Butan kocht und erst bei 100 Grad Celsius, im Vergleich zu Butan, das bei niedrigeren Temperaturen verdampft.

[Gernstel]

Ich habe noch mal konkreter gefragt:

Danke, das Ergebnis ist dadurch besser geworden. Wenn die Qualität des Ergebnisses so stark von der Qualität der Fragestellung abhängt, wird automatisch ein Vorwissen erforderlich, um das Ergebnis zu erzielen.

Das ganze ist eben KEINE Wissensdatenbank, sondern ein Textmodel.
Die Eingabe wird interpretiert. Dann wir per Model ein passender Satz oder abschnitt erzeugt. Dann eventuell ein darauf weiter passender Abschnitt.
Wobei "passend" einfach nur ist das die Trainingsdaten ähnlich waren.
Deshalb klingt das alles plausibel und auch grammatikalisch korrekt.

Das werde ich mir dazu einrahmen, speziell den ersten Satz. Damit ist eigentlich alles geklärt. Jeder Versuch, echtes WIssen aus einer solchen Abfrage gewinnen zu wollen, ist also eine falsche Voraussetzung. Eher ist es eine kaum bis unkontrollierbare Formulierungshilfe. Was schon die von der Fragestellung abhängigen Ergebnisse zeigen. Und die unklare Trainingsbasis, denn es fehlen die Quellenangaben.

Die Sache wird also gegenwärtig überschätzt.

[Marsupilami72]

Weil's gerade so schön passt:

[Kuddel]

Nein, ist Fake. Aber lustig wenn es so wäre.