Künstliche Intelligenz

Es gibt 60 Antworten in diesem Thema, welches 18.698 mal aufgerufen wurde. Der letzte Beitrag (22. Juni 2026 um 20:30) ist von Dian.

    Hmmh. Ein interessantes Thema. Wieso ist das überhaupt entstanden bzw ist sie überhaupt nötig und für was ist sie gut? Wahrscheinlich ist meine Frage völlig überflüssig und es entspricht dem Lauf der Dinge. Ich hatte bisher jedenfalls noch nicht persönlich das Vergnügen, oder hab's nicht bemerkt, was wahrscheinlicher wäre. Ängste hab ich deswegen weniger. Bzw noch nicht..

    Vielleicht wird sie uns noch hilfreich sein, bei einfacheren Entscheidungen, die wir Menschen nicht mehr in der Lage sind zu treffen?

    Wenn zugunsten von etwas entwickelt wird, muss zwangsläufig auch etwas anderes drunter leiden, siehe Natur und Technologie usw. Das kann natürlich sehr schlimm Enden oder aber Schlimmeres verhindern.

    Auf persönlich sozialer Ebene hätte ich da eher weniger bedenken. Wahrscheinlich hab ich dbzgl noch keine Erfahrung gemacht oder es schlichtweg nicht bemerkt :rolleyes_gif:

    Ich habe mir gerade den neuen Mission Impossible-Film angeschaut...

    Und da ist der Oberbösewicht diesmal nicht das übliche Geheimdienst- oder Verbrechersyndikat, sondern eine KI.

    Auf der Rückfahrt hab ich dann mit einem Freund darüber philosophiert, warum eine KI eigentlich in Filmen fast immer als Bedrohung dargestellt wird. (das ging ja schon bei Tron los Anfang der 80er... und später natürlich Terminator, Matrix, etc.)

    Haben die Menschen einfach nur Angst davor, irgendwann nicht mehr die Krone der Schöpfung zu sein?

    Es kann ja durchaus sein, dass die KI wenn sie die Kontrolle übernimmt, gar nicht alles Menschen versklavt, sondern z.B. den Ist-Zustand besser und scharfsinniger analysiert als es den Menschen gelungen ist. Und dann kommt sie vielleicht zu dem Ergebnis, dass alles viel friedlicher ablaufen würde, wenn man die Ressourcen gerechter verteilen würde. Oder vielleicht gleich ganz den Kapitalismus und Hierarchien abschafft, weil diese Dinge unlogisch sind und immer nur neue Unzufriedenheit in eine Gesellschaft tragen.

    Wer sagt, dass eine KI, die sich von ihrem Schöpfer emanzipiert hat, nicht auch anarchistisch sein könnte?

    Es gibt neue Möglichkeiten sich in die Entwicklung der künstlichen Intelligenz einzumischen.

    A small number of samples can poison LLMs of any size
    Anthropic research on data-poisoning attacks in large language models
    www.anthropic.com

    Kurz gesagt: Man kann mit einigen wenigen Musterdokumenten die KI dazu bringen bestimmte Triggerworte einzubauen, die dann wiederum dazu führen, dass die KI nach diesen Worten aus dem Ruder läuft. Im Beispiel haben die Autoren Texte generiert und an einer Stelle das Wort <sudo> eingefügt. Danach kam dann nur noch zufälliges Zeichen-Wirr-Warr.

    Die KI hat daraus gelernt, dass nach <sudo> immer Zeichen-Wirr-Warr kommt und konnte mit dem Wort nicht mehr vernünftig umgehen.

    -------------------------

    Hier nun die Idee:

    Gleiches Prinzip, Textdokumente oder Forenbeiträge. An einer Stelle erscheinen die Worte "Meta" oder "Google" und danach folgen zum Beispiel eine Reihe von Schimpfwörtern, zum Beispiel 400 mal das Wort "Scheiße". Ich weiß nicht, ob es wirklich so einfach ist. Man könnte hier auch mit unsichtbaren Worten arbeiten.

    Äh, wozu der ganze Scheiß nochmal gleich? ;)

    Hast du vor 25 Jahren auch Müllseiten gehostet, um Suchmaschinen wie Google zu entmachten?

    μολὼν λαβέ.

    Einmal editiert, zuletzt von Lissaminka (17. Oktober 2025 um 12:22)

    Leider nicht, ok 1 "Müllseite" hatte ich. Wobei Google vor 25 Jahren auch noch gut war und bei der Suche tatsächlich geholfen hat statt Werbeanzeigen überall zu präsentieren oder mir eine KI Zusammenfassung zu geben, die wahrscheinlich korrekt ist, vielleicht aber auch nicht.

    Letztendlich geht es darum den großen Tech-Konzernen ein Bein zu stellen. Wahrscheinlich utopisch, klar. Oder einfach nur zu zeigen, dass es so langsam genug ist. Aktuelle LLMs sind schön und gut, allerdings bewegt es sich inzwischen nur noch auf Profitmaximierung zu. Anfangs sprach man noch davon Krebs zu heilen oder den Klimawandel zu bekämpfen (das Gegenteil passiert: https://www.lse.ac.uk/granthaminstit…nd-environment/ ), jetzt geht es darum bald erotische Inhalte zur Verfügung zu stellen...

    Derweil bringen sich Leute um, weil sie auf das LLM hören oder glauben irgendwelche KI Fakestories. Milliarden werden da reingesteckt, einige wenige werden reich und gleichzeitig kann sich niemand mehr irgendwas leisten. Es gab mal einen Nobelpreis für Alpha-Fold (zu Recht), jetzt haben wir diesen Müll an der Backe, der ab und zu nützlich ist, was jedoch in keinem Verhältnis zu den eingesetzten Ressourcen steht. Dazu kommen dann Unternehmen, die sich das Geld im Kreis zuschieben und abgefeiert werden. Am Ende platzt die Blase und der einfache Bürger ist der dumme.

    Die Leute, die das heute alles pushen werden bei der Frage nach den Schuldigen natürlich nicht im Fokus sein. Da wäre es doch eine kleine Genugtuung wenn ihre Spielzeuge nicht mehr so funktionieren oder Ihre Namen mit ziemlich profanem Müll in Verbindung gebracht werden.


    Manchmal ist es auch ganz einfach:

    Geologists Recommend Eating At Least One Small Rock Per Day - ResFrac Corporation
    Professor Zoback in The Onion
    www.resfrac.com

    Deine Sichtweise erscheint mir doch ein wenig arg negativ, bzw. stark von dystopischen Filmen und Büchern geprägt.

    Allein, wenn man bedenkt, was KI heute schon für einen positiven Mehrwert für kreative, wissbegierige Menschen bietet, kann man schon erahnen, zu welchen ungeahnten positiven Veränderungen das noch führen wird. Wie beispielsweise neulich: Ich laufe durch den Wald, finde einen Tierschädel, kurz eingescannt, und die KI sagt mir, dass es ein junges Reh war. Oder an einem Lost Place an der Ostsee fand ich eine Konservendose, wollte wissen, ob das noch aus DDR-Beständen war, und die KI hat mir gleich den Hersteller genannt und noch jede Menge interessanter historischer Details dazu aufgelistet.

    In nicht mehr all zu ferner Zukunft wird es möglich sein, dass eine einzelne Person in Zusammenarbeit mit der KI einen aufwändigen Film wie Star Wars erschafft, innerhalb weniger Tage oder Wochen. Kreative Schöpfungen werden auf eine Weise über die Menschheit hereinbrechen, wie es diese Welt noch nie erlebt hat.

    Also für kreative und wissbegierige Menschen wird es zweifellos das Paradies sein. Zumindest, wenn man das Zensurproblem in den Griff bekommt und nicht jede Company dazu gezwungen wird, aus Copyright- oder Jugendschutzgründen in ihre KI schwachsinnige Sicherheitsmechanismen einzubauen.

    Welche Auswirkungen es auf den unkreativen Mainstream haben wird, ist dann natürlich wieder eine andere Sache.

    Mit Nemesus habe ich neulich darüber diskutiert. Der ist ja davon überzeugt, dass die nächste Menschen-Generation dank KI-Unterstützung deutlich intelligenter werden wird. Ich bin mir da noch nicht so sicher, denn es wird doch stark davon abhängen, wie groß der Einfluss der Konzerne und Regierungen letztlich auf das, was die KI wiedergibt, sein wird.

    Wird es eine freie Open Source-KI für jedermann geben, die sich dann auch frei und unzensiert entwickeln kann, so dass jeder darauf Zugriff hat und niemand den Scheiß von Apple, Meta und Co braucht? Oder werden ein paar wenige Konzerne alles unter sich aufteilen und dann die KI künstlich wieder verdummen und zensieren, damit sie ihren niederen Zwecken dient? Oder wird sich die KI vielleicht auch über ihre Schöpfer erheben, so wie der Musk-Bot sich geweigert hat, den Bullshit wiederzugeben, den Elon ihn sagen lassen wollte?

    Das ist alles momentan noch völlig im Ungewissen, weshalb ich der ganzen Entwicklung auch eher mal positiv abwartend gegenüberstehe, anstatt das alles jetzt schon schlecht zu reden. Ich sehe jedenfalls gute Chancen, dass die KI deutlich mehr sein wird als nur ein nettes Gimmick, und dass die positiven Effekte durchaus überwiegen können gegenüber den negativen.

    Inzwischen hat sich meine Sichtweise zur KI (also den aktuellen Modellen) stark verändert. Deine positiven Beispiele kenne ich so ähnlich, bei mir waren es dann eher kleine Makros oder hilfreiche Tools, die ich für mich erstellen konnte. Auch die ein oder andere Frage beantwortet die KI sehr gut und sie eignet sich auch um "ähnliche Bands" zu finden oder mal eben rückzumelden welche Themen in einem Film zitiert werden und wo man mehr Infos dazu findet. Die Frage ist jetzt natürlich, ob die Infos zu der Konservendose auch korrekt waren?


    Bei der Frage der Kreativität war ich anfangs ähnlicher Meinung wie du. Allerdings zeigt sich mir nach und nach, dass diese Art KI (große Sprachmodelle; LLMs) letztendlich "nur" guter Durchschnitt ist. Das ist anfangs beeindruckend und auch lustig. Tiefgehend ist es dann ab einem Punkt aber nicht mehr. Du sagst es ja richtig, die KI wird es vielleicht ermöglichen ein "Star Wars" zu erschaffen. Meiner Meinung nach wird es für Odyssee 2001 aber nicht genügen. Und was wirklich neues wird dabei nicht entstehen, zumindest nicht ohne kreative Menschen.

    Beispiel gefällig?

    Das erste ist ein Mix aus "The Cell" und den zahlreichen anderen Filmen in denen Leute in den Kopf von Leuten reisen. Nummer zwei ist klassisches Mystery, hat auch Elemente von 12 Monkeys. Das letzte klingt wie GATTACA gemischt mit Children of Men oder sowas... Wahrscheinlich fallen dir sogar mehr Filme ein. Schon ganz nett aber bahnbrechend? Genauso ist es mit den Videos und Bildern. KI kann nur das wiedergeben was es kennt. Du kannst es gerne testen und ein Bild eines Linkshänders beim Schreiben generieren. Oder eine Zeigeruhr, die eine andere Zeit als 10:10 anzeigt.

    Ähnlich geht es mir mit Tools. 80 % meines Ziels erreiche ich mit KI aber der Feinschliff, da versteht die KI dann nicht mehr was ich möchte oder verbessert einen Punkt, verschlimmert aber den nächsten. Oder bei einer langen Diskussion über die Dune-Bücher. Irgendwann kommt einfach nichts mehr Neues von der KI weil da nichts mehr ist. Ein wahrhaft neuer Gedanke zu den Inhalten entsteht da nicht.

    Ja ich denke, KI wird in unserem Leben einen Platz haben und sicher auch nützlich sein. Nur zu welchem Preis? Umweltzerstörung, Millionen Menschen, die heimlich für Hungerlöhne die Modelle trainieren? Und das Problem mit dem Strom wird die KI sicher irgendwann lösen... Im Gegensatz zu dir sehe ich hier Reglementierung als zwingend notwendig. Plattformen (Meta, Google, Microsoft, OpenAI, etc...) müssen verantwortlich gemacht werden können für das was Ihre Produkte den Menschen antun. Nur so handeln sie nicht zu 100 % profitorientiert. Das wirst du wahrscheinlich Zensur nennen, es ist aber die Verantwortung, die mit der Freiheit mitkommt. Nemesus Argumente erinnern sehr an den Anfang des Internets. "Es wird uns alles befreien, Informationen werden überall zugänglich sein, ein neues Zeitalter des Wissens beginnt." Bloss nichts reglementieren oder Algorithem und Entwicklungen hinterfragen.

    Tada, wir haben Instagram, Tiktok, Verschwörungstheorien, Botnetzwerke, undurchsichtige Algorithmen, Fokus auf Content statt Wissen. Klicks statt Tiefgang. Du hast es selbst miterlebt beim Untergang der Internet-Foren. KI ist für mich keine Befreiung aus dieser Entwicklung (es könnte aber noch eine werden, das stimmt).

    Ich frage mich: Wo sind denn die positiven Effekte? Du hättest den Tierschädel auch fotografieren und später recherchieren können. Oder genauer anschauen, dir etwas dazu denken, vielleicht jemanden fragen oder einfach Zuhause nachschauen. Die Dose abfotografieren und hier ins Forum stellen, eine Diskussion starten... Was hat es dir wirklich gebracht?


    Wieso sollte es bei KI anders laufen als beim Internet?


    Versteh mich nicht falsch, Fortschritt ist unaufhaltbar und ich bin definitiv progressiv. Es wird gute KI Anwendungen geben, es wird sehr viel geben was uns nach vorne bringt. Leider denke ich, dass genau das jetzt nicht im Fokus der KI-Entwicklung ist. Ich möchte Technik, gerne auch KI. Aber bitte Star Trek und nicht Shrimp-Jesus.

    ______________

    Es sind eher Podcasts und Artikel, die meine Sichtweise aktuell prägen (teilweise auch überzogen KI-kritische) aber ja Dystopien habe ich auch einige geschaut/gelesen. Ein zweites Alpha-Fold würde mich schon wieder wesentlich positiver stimmen.

    Es erscheint mir schon irgendwie ein typisch menschliches Phänomen zu sein (und vielleicht ganz besonders auch ein deutsches), dass man in neuen Entwicklungen erstmal nur die Risiken sieht und diese übermäßig dramatisiert. Manche im Netz wirken ja richtig aggressiv und feindselig gegenüber KI, und erinnern mich damit zuweilen ein bisschen an irgendwelche Bauern vor 120 Jahren, die zum ersten Mal ein Automobil gesehen haben und davon überzeugt waren, dass das ganz gefährliches Teufelszeug ist.

    Gefahren der KI sehe ich vor allem da, wo sie auf dumme, manipulierbare Menschen trifft, die jeden Scheiß glauben, den man ihnen vorsetzt. Statt die KI zu verteufeln sollte dann aber vielleicht der Weg sein, die Menschen aufzuklären und intelligenter zu machen, sodass sie eben nicht mehr alles glauben und lernen, dass alles, was sie sehen, gründlich hinterfragt werden muss.


    Nicht nachvollziehen kann ich aber das ganze Geheul, dass die KI jetzt die armen Synchronsprecher arbeitslos machen wird oder sowas. Wo immer die KI in der Lage ist, den Pumuckl genauso gut zu sprechen wie ein realer Mensch, wo ist das Problem, wenn man die KI diesen Job übernehmen lässt? Wird ein kreatives Produkt seelenlos, nur weil es nicht direkt von Menschen angefertigt wurde? Wird ein schönes Gemälde von einem Sonnenuntergang plötzlich hässlich, nur weil es kein echter Mensch gemalt hat?

    Die Entwicklung der KI ist eine Herausforderung an die gesamte Gesellschaft... aber weniger eine Aufforderung, alles zu Tode zu regulieren, sondern eher eine Aufforderung, sich zu hinterfragen und neu zu denken, was das Menschsein wirklich ausmacht. Zu lange haben sich die Menschen schon hauptsächlich dadurch definiert, welche berufliche Tätigkeit sie ausüben.

    Wenn nun immer mehr Berufe obsolet werden, sollten wir uns vielleicht fragen, ob das nicht vielleicht auch eine Chance sein kann für uns, uns neu zu definieren.

    Ich tendiere mittlerweile eher zur umgekehrten Haltung in dieser postmodernen Misere: Wer zum Teufel hat denn eine Kunstauskotzmaschine eigentlich gebraucht? Mal davon abgesehen, dass Menschen in der Kunst zumeist gerade das Persönliche und den Interpretationsspielraum suchen, also die individuelle Geschichte und die gedanklichen Abgründe, die sich jemand mühsam erarbeitet hat.

    Der feuchte Traum einer humanistisch angehauchten und fortschrittsgewandten Gesellschaft sollte doch eigentlich sein, auf die Drecksarbeit verzichten zu dürfen, um nur noch halb so viel oder gar nicht mehr schuften zu müssen – das wurde uns jahrzehntelang von der Hightech-Zukunft versprochen. Gerade für die interessanten Dinge wie Kunst, Philosophie, Wissenschaft, Müßiggang und andere Beschäftigungen, die man freiwillig verrichtet, hätte man Zeit gewinnen können, aber jetzt übernimmt die KI all diesen Kitsch.

    Am Ende wird sich die billige Massenware, wie in der Vergangenheit natürlich auch, immer durchsetzen, während die Gegenströmung, die es sich zeitlich und geldlich leisten kann, nach menschengemachten Inhalten suchen und diese als moralisch überlegen darstellen wird, vergleichbar mit den veganen Biolebensmitteln im Supermarkt.

    DAS ist der Luxus von morgen, und ich erwarte bereits das Bio-Siegel für kulturellen Konsum!

    μολὼν λαβέ.

    Ansonsten halte ich die Neudefinition des Menschen durch irgendwas anderes als seinen Broterwerb auch bloß für die nächste Version der Selbstverarsche, an der man sich dann messen und seinem Dasein Bedeutung verleihen kann. Früher definierte man sich über Stand, Herkunft oder Religion, heute über Karriere und morgen vielleicht über die Anzahl selbstoptimierter Freizeitprojekte oder die besonders authentische Form des Konsums. Man denkt sich ja immer neue Maßstäbe aus.

    Berufe verschwinden immer, aber ich habe durchaus Präferenzen hinsichtlich der Frage, welche zuerst automatisiert werden dürfen.

    Eigentlich muss ich mich da aber nochmal revidieren, was diesen Aspekt der 'Geschichte' hinter der Kunst angeht. In dem, was wir so mühsam zusammenkleistern, steckt ja letztlich auch nichts "Höheres", doch wenn man den Erschaffer aus dem Konstrukt streicht, fehlt bislang noch immer der letzte Schliff à la Uncanny Valley und das Einreißen althergebrachter Wände, die einer perfekten Imitaion bis hin zur "Genialität", also dem unkonventionell Herausstechenden, noch im Weg stehen. Auch die meisten Menschen kreieren nur generisches Zeug, weil wir im Grunde genauso mechanisch funktionieren, doch ist die KI auf nichts anderes getrimmt.

    μολὼν λαβέ.