Eine Sache kurz: Bitte fragt KI nicht nach Passwörtern!
#ki #kuenstlicheintelligenz #passwort
4
Post
Replies:
18
Boosts:
41
@ki_und_koffein falls nichts anderes zuhand frage ich DuckDuckGo nach "password 20"
auch nicht erste Sahne aber es ist ok für viele Zwecke
@ki_und_koffein
Sachen gibt's 😆
1
doch kann man, zumindest je nach Anwendungsfall und KI.
Wichtig ist der Zusatz "verwende für die Passwort Generierung etablierte Werkzeuge"
im Chat ist es ja sowieso meist nicht relevant, aber bei Programmen, Apps und Co kommt es ja öfter vor das man Beispiel Passwörter für Datenbanken, Benutzer und Co benötigt. Im Code kann man leicht sichere Passwörter generieren.
Aber der Punkt ist natürlich, verwendet auf keinen Fall direkt von KI genierte Passwörter
Es
2
@sam4000 @ki_und_koffein betrachte die verwendete Quelle und betrachte was bleeptrack gesagt hat
ein LLM ist ein Sprachmodell, selbst wenn du diesem sagst "verwende einen Zufallsgenerator"
gott verdammt verwende einfach den der eingebaut ist auf deinem Handy, Computer, Password Safe oder random.org
1
mein Punkt war, das das LLM wenn es selber Daten/Wissen ausgeben soll wie unzuverlässiger ist als wenn es Tools bedient.
Heute verwenden die LLM doch fast immer auch Werkzeuge, man muss diese nur gerne explizit triggern.
Ändert natürlich nichts daran, das die Grundproblematik der Technik existiert.
1
@sam4000 @ki_und_koffein also in anderen Worten: LLM ist das falsche Werkzeug für Erstellung von Passwörtern
ist das korrekt, dass du das sagen möchtest?
1
@sam4000 @ki_und_koffein mit unserem aktuellen LLM und den aktuelle Verständnis von Zufälligkeit und den aktuellen Richtlinien wie ein gutes Passwort zu sein scheint.
Es gibt enge Kriterien, was eine gute Zufallsquelle ist und das ist keinesfalls ein "neues" Feld. Entweder es ist mindestens so gut wie die etablierten Standardlösungen oder es kann diese nicht ablösen.
Und selbst wenn es identisch gut ist muss es immer noch preiswert, auditierbar und zuverlässig sein
1
ein LLM ist das falsche Tool um Passwörter zu generieren.
Aber LLM sind super um Tools zu bedienen, besonders im Terminal. Wenn etablierte Werkzeuge und Module verwendet werden, ist es was anderes als wenn ein LLM selber als Quelle dient.
1
@sam4000 @ki_und_koffein wofür nutzt das im Terminal? Kennst die Commands nicht?
1
es geht um das Autonome Arbeiten lassen der KI.
KI ist viel schneller als der Mensch, solange man die Fehlerrate deutlich senkt kann man gute Projekte damit machen.
KI kann echt gut programmieren.
Ist natürlich trotzdem nicht perfekt.
2
@sam4000 @ki_und_koffein ugh, *taps the sign*
1
hast du KI Programmierung mal ausprobiert?
deine Argumente sind ja absolut nicht falsch.
Wenn KI schafft die Arbeit von 5 Arbeitstagen auf einen bis 2 zu der reduzieren, bei (scheinbar) gleichbleibender Qualität, wie viele würden nein sagen?
das Problem ist natürlich, das der Mensch, obwohl er der verantwortliche ist, viel zu leicht die Verantwortung an die Maschine abgibt.
3
@sam4000 @ki_und_koffein > viel zu leicht die Verantwortung an die Maschine abgibt.
bzw.: ... denkt dies zu tun...
natürlich ist die Person immer noch dafür verantwortlich. Wenn ich ein Rollbrett unter einer Treppe lager und jemand ausrutscht dann bin ich schuld selbst wenn ich nicht anwesend während des Vorfalls bin.
ganz gleich wenn ich ein Computerprogramm/LLM/... starte so bin ich dafür verantwortlich / haftbar / im Zweifel die Person die gekündigt wird
3
in der KI Handy App kann es Claude noch direkt, andere Apps generieren nur Scripte, die man selber ausführen muss und ein unsicheres Beispiel.
"kannst du mir ein Beispiel Passwort generieren?
nutze dazu ein kleines Script um echten Zufall so nah wie möglich zu kommen"
war mein Testpromt.
2
@sam4000 bei »nutze dazu ein kleines Script um echten Zufall so nah wie möglich zu kommen« wir garantierst, dass das Skript ausgeführt wurde?
weil für gewöhnlich heißt es "klar, Boss [hier Ergebnis aus LLM]".
Genauso wie diese Leute die mit LLMs Bücher schreiben und wenn diese dann die finale .zip als Link bekommen führt der Link zu nichts weil das LLM immer nur simuliert hat aber natürlich nichtsdergleichen generiert hat.
1
@sam4000 heh ja klar, aber das ist ja eher ein Workaround für jemanden, der auch beurteilen kann ob der Code Sinn macht.
print("123456") ist auch ein Skript aber mit schlehtem Passwort :P
1
