Post · Kakapo Social

@TreeBug Also ich bin da ziemlich dogmatisch unterwegs und das liegt daran, dass ich mich intensiv mit LLMs auseinandergesetzt habe.

Das Level an psychologischer Manipulation, die diese Konfabulierten Texte ausüben, kann kaum signifikanter werden. Ich sehe darin, die destillierte Quintessenz sämtlicher Dark Patterns, die unsere Gesellschaft im Moment spalten.

Das einzige, was dagegen hilft, ist aufklären und den Leuten zeigen, welche Gefahr davon ausgeht, bis endlich Regulierungen kommen.

sythys

@sythys@chaos.social · 3 days ago

@TreeBug hast du mal in die PRs von manchen Open-Source-Projekten geschaut? Mir tun die Leute leid, die Jahre lang auf Reviews warten und jetzt in einem Meer aus Vibecoded Bullshit untergehen, welcher oft nicht mal baut. Ganz zu schweigen von automatisierten Issues, die versuchen echte Entwickler die Probleme lösen zu lassen, an denen AI scheitert.
Knowledge Mining und Slop Automation sind das schlechteste, was dem Internet passiert ist. Früher war das mal Csam, aber das kann Grok ja auch.

Tree 🌱

@TreeBug@chaos.social · 3 days ago

@sythys Schlechter Umgang mit Technik sollte nicht zu einer grundlegend schlechten Einstellung zur Technik führen. Nur weil Leute mit PCs mist verbreiten, sind PCs nicht schlecht.

Das bullshit PRs probleme sind, brauchen wir nicht drüber reden. Aber AI oder Vibecoding deshalb zu haten anstatt sich damit auseinanderzusetzen, wie man die Probleme löst, finde ich falsch.

Und früher war alles besser ist auch keine sinnvolle Haltung.

Es geht um den guten Umgang mit der Technik.

sythys

@sythys@chaos.social · 3 days ago

@TreeBug Also ich bin da ziemlich dogmatisch unterwegs und das liegt daran, dass ich mich intensiv mit LLMs auseinandergesetzt habe.

Das einzige, was dagegen hilft, ist aufklären und den Leuten zeigen, welche Gefahr davon ausgeht, bis endlich Regulierungen kommen.

Tree 🌱

@TreeBug@chaos.social · 3 days ago

@sythys Schade. Das ist genau die Einstellung die meiner Meinung dafür Sorgt, dass wir im CCC keinen konstruktiven Umgang und gute Auseinandersetzung mit der Technologie haben.

Modelle geben nur das zum Besten, worauf sie trainiert wurden. Alle LLMs als psychologisch Manipulativ hinzustellen geht meiner Meinung nach gegen einen Grundsatz der Hackerethik:

Man kann mit einem Computer Kunst und Schönheit schaffen.

Das lässt sich meiner Meinung nach, auch genauso auf LLMs anwenden.

#meinung

sythys

@sythys@chaos.social · 3 days ago

@TreeBug Im Moment muss davon ausgegangen werden, dass LLMs von Techgiganten das ist, was Leute meinen, wenn sie AI sagen.

Davon abgesehen verteufelt hier niemand die Technik, sondern den prädetorialen Einsatz dieser. Im Moment kommt es mir nicht weniger fahrlässig vor, als im Kindergarten Springmesser zu verteilen.

Zusätzlich kommt erschwerend hinzu das nur durch massive Verletzungen intellektuellem Besitzes solche LLMs überhaupt zustande kommen können.