Frühere Suchanfragen
Suchoptionen
Verwaltet von:
@FrauRettich@hessen.socialAlso ein bekannter Mediziner hat sich für eine Schulung von der #KI helfen lassen. Kam ganz gut was raus, richtig und glaubwürdig. Dann fragte er nach, ob es auch Quellen dazu gäbe. Die lieferte die KI ihm auch, auch die schienen ihm glaubwürdig, weil er manche Namen kannte.
Dann hat er nachgesucht, aber diese Quellen nicht gefunden. Nochmal bei der KI nachgehakt: "es könnten aber diese Quellen sein". Die lügt also ganz bewußt.
Wieso kann ich sie nicht darauf programmieren, zu sagen "das weiß ich nicht", wenn sie nichts dazu findet? https://www.br.de/nachrichten/netzwelt/chatgpt-schwindelt-max-schrems-geht-gegen-openai-vor,UBcnuqq
Ich hab übrigens nochmal KI (chatgpt) ausprobiert mit der Suche nach Informationen über mir bekannte Personen/mich selbst. Da hat sie nix gefunden (obwohl eine der Personen Europa-Bronze der Senioren im Kunstspringen hat) und hat mich drauf hingewiesen, daß ich lieber eine Suchmaschine benutzen soll.
@z428 das ist mir jetzt alles nicht neu. Nur, daß sie lügt.
@z428 hier schau, ich bin nicht die einzige, die es Lügen nennt. Oder nenn es halt Halluzinationen..https://www.br.de/nachrichten/netzwelt/chatgpt-schwindelt-max-schrems-geht-gegen-openai-vor,UBcnuqq
@z428 ich auch. Leider gibt es (natürlich) Schülys und Studierende, die KI-geschriebene Arbeiten einreichen und auch Fehler nicht bemerken. Hoffentlich verlassen sich nicht irgendwann auch Beamte oder Politikys darauf /o\
@FrauRettich @z428 Tun sie schon, siehe Scholz, der auf von KI generierten Umfragen vertraut, in denen die SPD die nächste Wahl gewinnt. 
@FrauRettich @z428 Doch, deswegen ist er so sorglos und gibt Afdp Lindner freie Hand!
@FrauRettich die #KI lügt nicht, weil sie nichts weiss. Die aktuell gehypten Methoden können sehr gut plausible Texte schreiben aber sie haben keine Möglichkeit festzustellen, ob eine Aussage wahr ist oder eine Referenz stimmt.
@wiesodennblos doch. Ich bin nicht die einzige, die es Lügen nennt. Manche nennen es auch "Halluzinationen" https://www.br.de/nachrichten/netzwelt/chatgpt-schwindelt-max-schrems-geht-gegen-openai-vor,UBcnuqq
@FrauRettich auch wenn das manche so nennen, stimmt es trotzdem nicht. "Lügen" ist bewusst Falsches zu behaupten und von Bewusstsein kann hier keine Rede sein. Lügen tun die Menschen, die behaupten von ChatGpt könnte man richtige Antworten erwarten
@FrauRettich weil sie prinzipbedingt nicht sucht, sondern phantasiert.
@MarcAllef okee... das ist ihr Auftrag, gell.
@FrauRettich weil sie nicht weiss, das sie nichts weiss.
Um bewusst zu lügen braucht es ein Bewusstsein.
Das des Programmierers.
Je nach Version die Du da von chatgpt nutzt, hat diese auch keinen aktuellen Zugang zum "aktuellen" Internet, sondern nur zu zuvor indizierten Seiten.
@FrauRettich 'eine der Personen' jaja, du bist also Bronzeseniorin!
@megaphon neenee, ich war nur mal Gaumeisterin im Geräte-Vierkampf. 
Diese ist eine alte Freundin von mir, immer noch aktiv
@FrauRettich KI wird von Menschen programmiert. Was bedeutet, dass jeder Programmierer etwas seines Charakters dazu gibt. Und dann lernt die KI natürlich, dass Menschen lieber Lügen glauben, statt die Wahrheit. (Siehe die ganzen Nazilügen und deren Anhänger auch in der Querdenker-Szene) 
@FrauRettich wieso schauen immer alle in chatGPT und wundern sich über falsche Informationen und fehlende quellen? Sucht euch doch einfach ein AI mit Quellen aus! Perplexity.ai zum Beispiel
@FrauRettich
Immer noch besser, als von der KI den eigenen Tod berichtet zu bekommen - einschließlich Quellen! https://www.pc-fluesterer.info/wordpress/2023/03/04/chatgpt-bedroht-uns-alle/
@FrauRettich "bewusst" ist da gar nichts. "Gelogen" auch nicht. Das ist ein statistisches zusammenwürfeln von Wortfetzen, und es ist darauf trainiert wie menschlicher Text auszusehen. "Korrektheit" kommt in der ganzen Technologie nirgendwo vor. Weder im Generativen noch im Adversarial Teil von "GAN".
Dass Menschen hier von Intention, Lüge, Halluzination, Kreativität und so sprechen ist ein weit verbreitetes Problem: wir blasen selbst die vermeintlichen Fähigkeiten der Sprachmodelle auf und wundern uns, dass alle dem Marketing-Hype auf den Leim gehen.