OpenClaw und die Dummheit der Menschen

KI-Blog-Header von ChatGPT generiert.

An OpenClaw kann man sehr gut beobachten, was Menschen bereit sind zu tun, ohne sich entweder auch nur einen Funken Gedanken darüber zu machen, was passieren kann, oder sich einfach über jegliches Risiko bewusst hinwegsetzen. Beides ist sehr dumm.

Schon länger kann ich über gewisse Aussagen nur müde den Kopf über die Naivität und Dummheit einiger Menschen schütteln. Dann aber dieser Bericht auf Golem:

KI-Agent leert unerwartet ganzen E-Mail-Posteingang

Eine KI-Sicherheitsforscherin ließ Openclaw nach wochenlangen Tests ihre echten E-Mails verarbeiten. Doch das ging gehörig schief.

Heilige Scheisse! Eine KI-Sicherheitsforscherin. Na da wissen wir ja jetzt wie es um die Kompetenz steht.

Ein paar Tage darauf:

KI-Agent leakt interne Daten einer Cybersecurityfirma

Der Betreiber hat offenbar zu viele Zugriffsrechte eingeräumt.

Da liebt jemand seinen Job!

Aber für die richtig geilen Aussagen, muss man auf Linkedin schauen:

ClawWork: OpenClaw as Your AI Coworker – 💰 $10K earned in 7 Hours.

Oder

The next Employee of the Month won’t be a person.
It’ll be a Mac Mini.

With the explosive growth of OpenClaw (aka ClawdBot), we’re watching the workforce get rewritten in real time.

Oder

Clawbot. Moltbot. OpenClaw. Wenn ein Begriff in den Social-Media-Feeds zum Hype wird, ist er für Entscheider:innen im Maschinenraum der Unternehmen längst relevant.

Die strategisch entscheidende Frage lautet:
Wie integrieren Sie AI Agents produktiv in Ihre Wertschöpfung – ohne Tool-Wirrwarr?

Oder

Openclaw for personal finance

– integrates w all your banks/cards/etc
– understands tax returns and filings
– monitors portfolio and competitors
– digests proprietary data sources (credit card panels, app rankings, and etc)

Genau. Geben wir einem experimentellen KI-Agentensystem Zugriff auf unser Geld, unsere Verträge, Termine, Kundenprojekte, Mails, Kontakte, Messenger und lassen sie tun, was immer sie glaubt, tun zu müssen. Einfach so. Denn sie wird das schon alles so machen, wie wir uns das erhoffen.

Deshalb nochmal für alle in leicht verständlicher Sprache:

OpenClaw ist ein Experiment. OpenClaw ist ein Sicherheitsalbtraum. OpenClaw ist KEIN Produkt. OpenClaw ist NICHT für den produktiven Einsatz gedacht.

Probiert OpenClaw in einer abgeschotteten und geschützten Umgebung. Schaut euch an, wie es funktioniert, was es kann und was es noch nicht kann. Aber eben in einer Umgebung, die kaputt gehen kann, wo nichts passieren kann, das euch schadet. Wer das nicht hinkriegt, ist zum aktuellen Entwicklungsstand keine Zielgruppe.

Wer einem komplett von der Rolle gelassenen Irren Zugriff auf alle seine Daten gibt, hat sie nicht alle.

Kommentare

7 Kommentare zu „OpenClaw und die Dummheit der Menschen“

  1. Avatar von MaMü

    @hello Spannend, dass die Skalierung von kleinem Testsystem auf Produktivsystem diese Auswirkung hatte. "Vor lauter eMails habe ich die ursprüngliche Anweisung vergessen"
    Auf jeden Fall verwegen, so einem Teil seine Zugangsdaten zu geben 🤷

    1. Avatar von Norbert

      Vereinfacht gesprochen: Der Irrglaube vieler ist, dass KIs deterministisch sind. Sind sie aber in der Regel nicht. Dementsprechend ist nicht vorherzusagen, wie sie auf veränderte Informationen/Datenmengen/whatever reagiert.

      Dass eine Sicherheitsforscherin das nicht weiß, ist schon ein ziemliches Armutszeichen.

      1. Avatar von MaMü

        @hello Ja. Wobei das bei mehr Daten nicht einfach nur langsam werden, sondern etwas ganz anderes machen, schon überraschend sein kann. Hängt natürlich mit der Funktionsweise von LLMs zusammen. Man überschätzt die Teile gerne

  2. Avatar von Tommi

    Das zeigt einmal mehr: Wir müssen viel mehr in digitale Bildung investieren. Nur sehe ich da ein klein wenig schwarz.

  3. Avatar von Wolfgang

    Letztendlich ist es der pure Wahnsinn einem Stück Software zu erlauben im eigenen Namen selbstständig und unkontrolliert zu handeln.

    1. Avatar von Norbert

      So ist es.
      Und dann will vermutlich niemand für das, was daneben geht, gerade stehen.
      Die Rechtsanwälte reiben sich schon die Hände.

  4. Avatar von Stefan

    @hello
    Um die Dummheit der Menschen zu beobachten, brauchts keine digitale Neuheit sondern einfach nur offenen Augen in der Realität. 😜

    #Agenten #KI

Neuveröffentlichungen

Likes

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

To respond on your own website, enter the URL of your response which should contain a link to this post’s permalink URL. Your response will then appear (possibly after moderation) on this page. Want to update or remove your response? Update or delete your post and re-enter your post’s URL again. (Find out more about Webmentions.)