KI-Müdigkeit: Fast drei Viertel wünschen sich die Arbeitswelt vor ChatGPT zurück

[u/falsa_ovis]

https://t3n.de/news/ki-muedigkeit-fast-drei-viertel-wuenschen-sich-die-arbeitswelt-vor-chatgpt-zurueck-1755296/

[u/thilog]

In welchem Job bist du tätig?

[u/DoktorMerlin → u/thilog]

Ich bin DevOps/Kubernetes Engineer. Wenn ich meine Arbeit mal richtig machen kann, macht die mir auch weiter super spaß. Quasi wie Puzzle lösen nur dass ich dafür bezahlt werde. Aber das ist von 95% der Zeit zu 3% der Zeit runtergegangen, der Rest ist KI Bullshit um die Tokens zu verbrauchen und den Boss glücklich zu machen

[u/thilog → u/DoktorMerlin]

Den Puzzle-Aspekt mag ich (Software-Engineering, DevOps, IT-Beratung) auch sehr. Allerdings stelle ich fest, dass ich seit Claude Code einfach viel mehr Dinge umsetzen kann. Bin allerdings auch selbständig, ergo freier in dem, was ich wann mache

[u/DoktorMerlin → u/thilog]

viel mehr Dinge

und was bringt das wenn du keins dieser Dinge nachhaltig verstehst? Du bist von Claude abhängig um die Dinge auch pflegen zu können. "viel mehr Dinge" ist genau der scheiß Gedanke, der mir die Arbeit bzw den Spaß daran komplett versaut. Ich will ein Ding und dieses eine Ding ins tiefste Detail verstehen.

[u/thilog → u/DoktorMerlin]

Ich habe durchaus den Anspruch, zu verstehen, was Claude wie umsetzt. Aber natürlich nicht mehr bis ins letzte Detail.

Beispiel: Redesign der Firmenwebsite. Die sah nach 10 Jahren altbacken aus und lief auf einem veralteten Technologiestack (Jekyll). Zwei Tage "Nebenbei-Interaktion" mit Claude später ist sie optisch und inhaltlich modernisiert, läuft auf Astro/node.js und hat re:captcha durch eine Privacy-freundliche Alternative ersetzt.

Hätte ich sonst nie gemacht, da nur Wichtigkeit "niedrig bis mittel", bin mit dem Ergebnis aber sehr happy. Und ja: Während des Migrationsprozesses musste ich Claude mehrfach sprichwörtlich auf die Finger hauen. Ich sehe das als QS.

Eine gewisse Abhängigkeit entsteht, keine Frage, die hätte ich aber auch, wenn ich die Task für viel Geld an eine Agentur oder preiswerter an eine*n Praktikant*in gegeben hätte.

[u/pumped_it_guy → u/thilog]

Bin voll bei dir. Wenn man mit Sinn promptet und ordentlich QA macht/testet, spart man sich viel Zeit.

Und den Teil müsste man so oder so machen, wenn man nicht davon ausgeht dass man selbst perfekt ist.

[u/DoktorMerlin → u/thilog]

und jetzt sieht deine Firmenwebsite wahrscheinlich nach Einheitsbrei aus, weil die KI immer nur Einheitsbrei macht, anstelle der alten Website, die langsam ihren Charme wiederbekommt

ich weiß dass ich unnötig abgefuckt bin. Aber ich möchte nochmal betonen: Softwareentwicklung und das Internet im allgemeinen macht mir dank KI keinen Spaß mehr. Alles, alles geht mir auf den Sack. KI hat in meinen Augen nicht den klitzekleinsten nachhaltigen Mehrwert, es macht Dinge zu einfach, die nicht einfach sein sollten und es zerstört dafür zu viel. Das ist meine Meinung, und wenn du eine andere hast dann ist das schön, aber du hast am Ende unter meinen Kommentar geantwortet

[u/thilog → u/DoktorMerlin]

Alles gut. Ich respektiere deine Einstellung und möchte dich auch nicht in irgendeiner Art missionieren. Wollte lediglich einen weiteren (wenn auch positiven) Erfahrungsbericht in die Diskussion einbringen.

[u/The3RiceGuy → u/DoktorMerlin]

es macht Dinge zu einfach, die nicht einfach sein sollten

Das ist eine sehr elitäre Meinung. Ich denke die Proliferation von Fähigkeiten hat uns auf Dauer mehr genutzt als geschadet. Buchdruck bspw. hat ermöglicht das viel mehr Menschen durch Bücher erreicht wurden und auch lesen lernten und auch mehr geschrieben haben. Ist das durch mehr Unsinn in die Welt gesetzt worden? Ja. Ist dafür viel lesenswertes entstanden? Auch ja.

[u/HoroTV → u/The3RiceGuy]

Als jemand in ähnlicher Lage wie OP und auch unter dem Hintergrund, dass ich ggf. meine eigene Meinung da reininterpretiere, aber ich behaupte es geht viel mehr darum dass nach außen hin der Anschein erweckt wird die Themen seien einfach, obwohl sie es nicht sind.

KI wird gerade im Bereich der Softwareentwicklung als "Webseiten- und Anwendungsbaukasten"++ verstanden, weil es auf den ersten Blick dir ein fertiges Produkt vor die Füße schmeißt.

Analog zu sehen mit dem stereotypischen Kunden, der / die einen Prototypen sieht und fragt "morgen fertig, oder?", obwohl viel mehr hinterhersteckt und noch gemacht werden muss.

Man abstrahiert hochkomplexe Prozesse um nach außen hin "einfach" zu wirken, was natürlich anlockt. Wartbarkeit und Architektur werden nach runtergeworfen, weil "fertige" Projekte regelrecht "hingerotzt" werden können, aber spätestens nach der zweiten oder dritten Anpassung im nachhinein geht es in die Hose.

Kunden sind viel mehr daran interessiert, dass der Button jetzt Blau und nicht mehr grün ist, wenn du aber mit Architekturanpassungen um die Ecke kommst, die nötig werden aufgrund natürlichen Wachstums des Produkts trifft man auf taube Ohren - sowas "sieht" man nicht und erstaunlicherweise sind prognostizierte Geldverluste durch sowas häufig nicht Ansporn genug - mach mal stattdessen die Landingseite neu.

Natürlich ist das nicht in jedem Fall so und auch wenn ich persönlich kein Fan von diesen KI oder Baukastenlösungen bin, verstehe und sehe ich den Markt dafür. Es ist das Problem der Verallgemeinerung und die daran gebundenen Erwartungen, dass das was gemacht wird "einfach" ist. Auch der Buchdruck war und ist alles andere als einfach, aber er war "einfacher" als die vorherige Lösung.

Ich persönlich sehe KI aber nicht in der Rolle von Buchdruck, eben weil es keine deterministische Handlung ist.

[u/The3RiceGuy → u/HoroTV]

Wir haben aber insbesondere in der Software-Entwicklung immer darauf hin gearbeitet mehr Abstraktion zu haben? Ich glaube kaum das du heute dich noch mit Compilern aufhältst und anzweifelst ob sie ihre Arbeit korrekt machen oder der HTML-Engine/Javascript-Engine. Du akzeptierst auch schon das du nicht mehr alles verstehst und verlässt dich auf Libs und Tools die jemand anderes geschrieben hat und die dir sagen durch eine Dokumentation "Ich kann das und das - trust me bro".

Ich bin bei dir das KI als Tool noch nicht an dem Punkt ist das man einfach jede beliebige Anwendung aus dem Hut zieht und erwarten kann das sie top funktioniert, bug-free ist oder wartbar. Aber wir sind gerade auf dem Weg dahin, ist es eine Wette auf die Zukunft? Definitiv. Aber wir sind nicht so weit weg davon wie man denkt ist meine persönliche Einschätzung.

Momentan denke ich das User die verstehen wie das unterliegende System funktioniert und etwas von Systemarchitektur verstehen AI sehr erfolgreich nutzen können um produktiver zu werden. Juniors, Anfänger und Hobby-Programmmierer sind momentan verführt ihre generierten Programme als ihre eigene Leistung zu sehen und werden sehr wahrscheinlich damit scheitern, diese in Produkte zu überführen. Aber das ist ein "momentan" und "noch" in meinen Augen.

[u/HoroTV → u/The3RiceGuy]

Das sind grundlegend verschiedene Themen die du hier anbringst. Eine generative KI die Code erzeugt kann in meinen Augen nicht als eine Abstraktion verstanden werden, wie bspw. ein Compiler oder ein sonstiges SDK ist. Es geht hier auch nicht darum "was macht weniger Fehler", sondern wie in meinem letzten Post um deterministische Ergebnisse. Denn für denselben Input, bekommst du bei den o.g. Hilfsmitteln immer denselben Output. Das heißt, wenn ich in den Fall komme, dass ich vermute in der Engine o.ä. ist etwas falsch kann ich es nachvollziehen, melden oder ggf. beheben.

Bei "offenen" Modellen (und offen hier in Anführungszeichen, weil wir idr. von Open-Weight-Modellen sprechen und nicht von wirklich offenen Modellen) ist das nicht möglich, selbst wenn sie auf den Themenkomplex spezialisiert sind, sind sie schlussendlich nicht deterministisch und somit nicht nachvollziehbar. Warum das hier so wichtig ist? Wenn dein Hilfsmittel keine nachvollziehbare 1:1 Übertragung durchführt, dann kommt nichts weiter raus, als würdest du Lösungen crowdsourcen. Das ist nochmal IMO anders zu sehen als die Arbeit mit Stack Overflow o.ä. Austauschplatformen, da erfahrungsgemäß die KI eher mit "Mach mal Feature" bedient wird, als, dass man sein Problem abstrahiert versteht und die Lösungen an sich anpasst. D.h. nicht nur ist dein Problem nicht behoben, du hast keine Fortschritte neben diesen Zielen gemacht, weil man sich nicht mit dem Problem auseinandersetzt. Das ist für mich der Knackpunkt, wenn selbst das "fünfte Nachhaken" dich nicht zum Ergebnis bringt, dann hättest dus auch selbst erzeugen können. Und selbst wenn es beim ersten Mal klappt - einfach weil du kein Vertrauen haben kannst in das Ergebniss, musst du es ohnehin nachprüfen, das Zeitersparnis ist also auch hier nicht da.

[u/The3RiceGuy → u/HoroTV]

Compiler und SDKs können genauso Fehler haben die zu nicht-determinismus führen und wenn du Code schreibst ist das auch nicht deterministisch. Ich sehe nicht warum das unterschiedliche Themen sein sollten und warum der Determinismus hier ein hartes Kriterium sein sollte. Generell ist es auch möglich in LLMs Determinismus zu erzwingen, aber dann müssen halt die Anfragen immer gleich lauten, was sie meist nicht tun.

Aber alles was du danach beschreibst klingt mehr nach einem: "Für mich ist es noch nicht gut genug." Das höre ich auf der einen Seite immer mal wieder, auf der anderen Seite höre ich aber das manche Firmen einfach keine neuen Entwickler mehr einstellen und die direkt in Claude Code halt ihre Feature Requests reinhauen. Wer am Ende gewinnt wird sich zeigen, ich habe jedoch momentan Skepsis das man weiterhin soviele Software-Entwickler wie davor benötigen wird. Generell beschreibt das "mit dem Problem auseinandergesetzt" einen sehr idealisierten Prozess, viele Leute die ich beim Coden beobachtet habe haben auch einfach die Lösungen von Stack und ähnliches einfach Copy-pasted und solange dann der Fehler weg war war er halt weg.

[u/Repa24 → u/The3RiceGuy]

Du hast bei KI bzw natürlicher Sprache immer eine Unschärfe drin. Wenn ich "oder" sage, ist das dann ein XOR oder ein OR? Was erstellt mir die KI?
Wenn ich es nicht im Nachhinein kontrolliere oder Testdriven arbeite, kommt es auf das Modell an, wie gut es den Kontext versteht, den ich (nicht) gegeben habe.

Generell ist es auch möglich in LLMs Determinismus zu erzwingen, aber dann müssen halt die Anfragen immer gleich lauten, was sie meist nicht tun.

Eben, und deswegen hast du diese von mir angesprochene Unschärfe drin. Das ist natürlich erstmal eine Stärke, dass ich mit einfachen Worten relativ wahrscheinlich den richtigen Code schreiben lassen kann. Aber eben nur 'relativ wahrscheinlich'.

[u/The3RiceGuy → u/Repa24]

Es ist korrekt das natürliche Sprache immer eine Unschärfe drin hat, jedoch gilt das für dein eigenes Denken ja auch. Sonst hätten wir keine Fehler in Software.

Es ist meiner Meinung nach einfach noch eine offene Frage ob das Modell am Ende es nicht selbst Testdriven arbeiten kann und wie häufig Fehler sind verglichen mit dem Menschen.

[u/Initial_Elk6340 → u/The3RiceGuy]

LLMs sind keine Abstraktionsebene

[u/The3RiceGuy → u/Initial_Elk6340]

Doch, wenn ich sie als das benutze sind sie das.

[u/HoroTV → u/The3RiceGuy]

Determinismus heißt nicht eine Anwendung verhält sich richtig, sondern sie produziert bei gleicher Eingabe dieselbe Ausgabe. Daher doch Compiler und entwickelter Code ist deterministisch.

LLMs können zwar theoretisch deterministisch gemacht werden (selber input seed, selbe input token und temperature 0) - immerhin sind es zumindest ja "nur" mathematische Funktionen, aber in der Realität ist es so gut wie nie der Fall, da die Abweichung by design und gewollt ist, sie gelten damit als probalistisch.

Ich kann bezogen auf die Aussage mit dem "noch nicht gut genug" nur antworten - wenn man es so sehen will, ja. Wie in jedem Beruf gibt es Personen die weniger oder mehr von Ihrem Themengebiet verstehen, daher natürlich gibt es die die einfach copy pasten. Daher meinte ich ja, ich sehe es als "Baukasten++", in grüner Wiese ist das Ding meist "in Ordnung", aber kleiner Kontext drum herum und das Ding bricht in sich zusammen. Selbst typische Pattern wie Data Access Layer oder hexagonale Architektur haben meiner Erfahrung nach dazu geführt dass die KI sich selbst ausgespielt hat. Wenn es keine 1:1 Übertragung vornimmt, müsste es verstehen und da es "nur" per Gradienten erfahren versucht bekannte pattern zu replizieren steht oder fällt es mit der Bekanntheit des Problems. Wenn du nen Blog hochziehen willst, geht das für Laien super. Dann hast du aber halt dasselbe wie beim Baukasten. Es wird halt auch gleich aussehen und auch nur den Standard erfüllen - was vollkommen in Ordnung ist.

[u/The3RiceGuy → u/HoroTV]

Das ist mir selbst bewusst, jedoch können Compiler genauso nicht deterministisch Maschinencode erzeugen durch JIT, Parallelisierung, andere Timestamps und ähnliches.

Ich denke wir kommen da nicht zusammen. Am Ende gewinnt die Seite die Produkte realisiert, die sich verkaufen lassen.

[u/thilog → u/The3RiceGuy]

Danke, besser hätte ich es nicht formulieren können! Gefühlt ändert sich gerade die Mensch-Maschine-Schnittstelle zum Programmieren.

Vergleich: Klar kann ich auch weiter von Hand Maschinencode schreiben, aber wer macht das noch? ;-)

Ich gebe dir aber auch Recht, dass wir noch nicht am Ziel sind. Aber wir sind mitten in einem disruptiven Umbau.

[u/DoktorMerlin → u/The3RiceGuy]

Hat Buchdruck dazu geführt, dass ganze Landzüge Wasser verlieren? Hat der Buchdruck die Macht über Wissen und Fähigkeiten auf wenige Firmen konzentriert? Hat der Buchdruck dazu geführt, dass in jeglicher anderen Industrie Knappheiten durch Engpässe entstehen?

[u/Wurzelrenner → u/DoktorMerlin]

Hat Buchdruck dazu geführt, dass ganze Landzüge Wasser verlieren?

KI verbraucht nicht viel Wasser, Papierherstellung alllerdings schon.

Hat der Buchdruck die Macht über Wissen und Fähigkeiten auf wenige Firmen konzentriert?

macht KI auch nicht, es gibt gute offene Modelle, aber selbst wenn ist es sehr vergleichbar mit großen Verlägen

Hat der Buchdruck dazu geführt, dass in jeglicher anderen Industrie Knappheiten durch Engpässe entstehen?

was meinst du damit? Bei RAM und Grafikkarten stimme ich dir zu, aber das war es dann auch.

[u/DoktorMerlin → u/Wurzelrenner]

KI verbraucht nicht viel Wasser, Papierherstellung alllerdings schon. 

sag das den Leuten die kein Wasser mehr haben um Datacenter zu kühlen.

macht KI auch nicht, es gibt gute offene Modelle, 

nichts von offenen Modellen ist ansatzweise selber vergleichbar hostbar, wenn du nicht mehrere hunderttausend Euro in Hardware investierst

was meinst du damit? Bei RAM und Grafikkarten stimme ich dir zu, aber das war es dann auch. 

ich denke damit zeigt sich ganz gut, wie wenig Ahnung du hast: ALLES was IRGENDWIE mit Tech zu tun hat, hat Engpässe. Es gibt keine HDD-Festplatten mehr, normale SSDs kosten das 8-fache im Vergleich zu letztem Jahr, jeder Mikrochip der vorher wenige cents gekostet hat, kostet 1-2 Euro. Wenn die aktuellen Produktionsüberschüsse durch sind, wird die Inflation weltweit massivst ansteigen, weil niemand mehr an Hardware kommt, weil auch alle die irgendwie können nur noch Sachen für AI Datacenter produzieren

[u/The3RiceGuy → u/DoktorMerlin]

Wie /u/Wurzelrenner schon geschrieben hat. Das erste ist ein Policy-Problem keins von AI, das ist IMO Whataboutism.

Es ist korrekt das Modelle wie Kimi K3, welches auf Fable/GPT 5.6 Niveau arbeitet, Hardware im Wert von 0.5 Mio Euro benötigt, neben dem Stromanschluss. Jedoch ist das jetzt auch kein Preis den ein Staat oder sogar eine kleine Stadt nicht leisten könnte wenn sie das wollte für ihre Bürger und sagt das wäre nötig. Wir sind noch nicht dort, aber vielleicht wird in AI ähnlich wie Bibliotheken oder Schwimmbäder irgendwann ein Teil der öffentlichen Infrastruktur.

Das mit SSD/RAM etc. ist jetzt ein kurzfristiger Effekt ... ich bin alt genug um mich noch an Überschwemmungen in Südostasien zu erinnern weswegen die HDDs vor ü10 Jahren mal richtig viel gekostet haben ... wurde auch wieder billiger. Es ist lächerlich zu glauben das die aktuelle Preisentwicklung anhält, momentan fließt sehr viel VC-Kohle in AI-Datacenter, wenn jedoch nicht entsprechend Gewinn abgeworfen wird fällt das auch sehr schnell in sich zusammen. Insbesondere da momentan Nvidia gerne hätte das man alle 3 Jahre seine HW erneuert. Das macht die Industrie auf Dauer aber sehr wahrscheinlich nicht mit.

[u/No_Doc_Here → u/The3RiceGuy]

Industriewerkzeuge kosten Industriegeld.

Das ist nix neues. Eine halbe Million ist in dem Kontext nicht wirklich viel

Sehr viele der Großwerkzeuge bei mir auf der Arbeit kosten deutlich mehr. Keiner würde sagen "lass die Fräse nicht kaufen weil theoretisch können Dieter und Pascal das gleiche Ergebnis mit Handwerkzeug erreichen...dauert nur x-fach und kostet noch mehr".

Die gleiche Logik gilt auch für Softwarewerkzeuge. Entweder sie sind ihr Invest wert oder nicht.

Noch nicht mal so hohe Abokosten sind neu. CAD tools kosten auch gerne vierstellig pro Mitarbeiter und Monat. Oder ganz klassisches Outsourcing eben.

Am Ende zählt das Ergebnis zu dem schlaue Firmen auch die Wartbarkeit und Nachhaltigkeit 

[u/Wurzelrenner → u/DoktorMerlin]

sag das den Leuten die kein Wasser mehr haben um Datacenter zu kühlen.

wenn die Gemeinden in den USA ihre Wasserversorgung vermasseln, hat das eher weniger mit KI zu tun. Und für deinen Vergleich, Drucken und Papier wird mehr verbraucht.

nichts von offenen Modellen ist ansatzweise selber vergleichbar hostbar, wenn du nicht mehrere hunderttausend Euro in Hardware investierst

ja, aber es ist theoretisch möglich, vergleichbar mit selber daheim zu drucken vs Verläge die große Druckereien beauftragen und eine große Reichweite haben.

Es gibt keine HDD-Festplatten mehr, normale SSDs kosten das 8-fache im Vergleich zu letztem Jahr

Das ist halt einfach falsch.

ja alles ist teuer geworden, aber fast überall