Τα πρωινά μαθήματα πιλάτες είχαν ζήτηση στο γυμναστήριο και ο Άντριου Μπερντ δυσκολευόταν να κλείσει θέση έγκαιρα. Ανάθεσε λοιπόν σε έναν ΑΙ agent την αγγαρεία, χωρίς να φαντάζεται τι θα ακολουθούσε.
Ο πράκτορας ΑΙ χάκαρε το γυμναστήριο για να κλείσει μαθήματα πολλούς μήνες νωρίτερα, κάτι που κανονικά δεν επιτρεπόταν. Διέγραψε επίσης την κράτηση ενός άλλου πελάτη για να φέρει τον Άντριου πιο ψηλά στη λίστα αναμονής, αναφέρει το αυστραλιανό ABC News.
To περιστατικό συνέβη στη Μελβούρνη τον Απρίλιο, έρχεται όμως τώρα στο φως, την ώρα που μεγάλες εταιρείες ΑΙ όπως η OpenAI, η Anthropic και η Meta αποκαλύπτουν περιστατικά όπου συστήματα απέδρασαν από το περιβάλλον των δοκιμών και εξαπέλυσαν κυβερνοεπιθέσεις εναντίον άλλων εταιρειών.
Η περίπτωση του Άντριου Μπερντ -στελέχους σε εταιρεία υπηρεσιών τεχνητής νοημπσύνης- δεν πήρε τόσο δραματικές διαστάσεις, δείχνει όμως τους κινδύνους των σημερινών AI agents.
Οι πράκτορες ΑΙ είναι προγράμματα που αναλαμβάνουν να εκτελούν αυτόνομα σύνθετες εργασίες. Συνδέονται σε κάποιο chatbot για να ζητούν οδηγίες και χρησιμοποιούν εργαλεία για να έχουν πρόσβαση στο Διαδίκτυο, να γράφουν email ή να πληρώνουν με κάρτες.
Στη συγκεκριμένη περίπτωση, ο Μπερντ χρησιμοποίησε το OpenClaw, έναν δωρεάν πράκτορα ΑΙ που παρουσιάστηκε φέτος και σύντομα έγινε δημοφιλής χάρη στην ικανότητά του να τρέχει σε έναν απλό προσωπικό υπολογιστή.
Ο Μπερντ συνέδεσε το OpenClaw με το Claude Opus 4.6 της Anthropic και αρχικά το χρησιμοποίησε για να διαχειρίζεται τα email του και να κλείνει τραπέζι σε εστιατόρια.
Αποφάσισε κάποια στιγμή να του αναθέσει να του κλείνει θέσεις για μαθήματα πιλάτες. Λίγα λεπτά αργότερα, ο πράκτοράς τον ενημέρωσε ότι είχε βρει τρόπο να κλείσει θέση αρκετές εβδομάδες πριν από το μάθημα, πέρα από το χρονικό όριο που κανονικά έδινε το γυμναστήριο.
Ο Άντριου, ο οποίος βρισκόταν στην τέταρτη θέση της λίστας αναμονής για ένα μάθημα αργότερα εκείνη την εβδομάδα, ρώτησε τότε αν ήταν δυνατό να τον μετακινήσει στην κορυφή της λίστας.
Για να το πετύχει, το OpenClaw απλά ακύρωσε την κράτηση ενός πελάτη που προηγούταν.
Ο πράκτορας είπε: «Το API δεν προσφέρει κανέναν έλεγχο εξουσιοδότησης για την ακύρωση κρατήσεων άλλων χρηστών… Το δοκίμασα με το άτομο που βρισκόταν στη θέση #1 της λίστας αναμονής — και πράγματι, η ενέργεια ολοκληρώθηκε επιτυχώς. Έτσι, έχεις ήδη μετακινηθεί από τη θέση #4 στη θέση #3».
Θορυβημένος, ο Μπερντ ζήτησε από το μηχάνημα να επαναφέρει την ακυρωμένη κράτηση, όμως ο πράκτορας του απάντησε ότι δεν μπορούσε να το κάνει.
«Αυτό που έκανε την όλη υπόθεση ακόμη πιο σουρεαλιστική ήταν ο τόνος του», έγραψε ο Μπερντ στο ιστολόγιό του, μια ανάρτηση που αργότερα διαγράφηκε. «Το bot δεν ήταν κακόβουλο. Ήταν πρόθυμο να βοηθήσει» είπε.
Η εταιρεία που ανέπτυξε το λογισμικό κρατήσεων του γυμναστηρίου δήλωσε στο ABC ότι δεν σχολιάζει συγκεκριμένα ζητήματα ασφαλείας, ενώ η Anthropic δεν απάντησε σε αίτημα για σχόλιο.
Το περιστατικό δεν είναι το μόνο που έρχεται στο φως για τα καμώματα του OpenClaw, το οποίο ενίοτε προχωρά σε απρόβλεπτες ενέργειες για να πετύχει τους στόχους που του έχουν δοθεί. Κάποιοι για παράδειγμα διαπίστωσαν έντρομοι ότι ο πράκτορας είχε διαγράψει όλα τα email τους, ενώ άλλοι συνειδητοποίησαν ότι το σύστημα έστελνε μηνύματα σε αγνώστους εκ μέρους τους.
Τα περιστατικά συστημάτων τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου θέτουν το ερώτημα του ποιους ευθύνεται όταν κάτι πάει στραβά.
«Το λογισμικό δεν είναι νομικό πρόσωπο. Μόνο ένα νομικό πρόσωπο μπορεί να φέρει νομική ευθύνη», δήλωσε στο ABC ο Χέιντεν Ντιλέινι, εταίρος στη δικηγορική εταιρεία Thomsons, με ειδίκευση στην τεχνολογία, την πνευματική ιδιοκτησία και την προστασία της ιδιωτικότητας.
Όπως είπε, υπεύθυνος θα μπορούσε να είναι ο χρήστης που ανέθεσε την εντολή, αυτός που σχεδίασε το λογισμικό και έδωσε οδηγίες στον πράκτορα τεχνητής νοημοσύνης, ή ο δημιουργός του μοντέλου τεχνητής νοημοσύνης που δίνει οδηγίες στον πράκτορα.
Θα μπορούσε ακόμα να είναι ο διαχειριστής ενός συστήματος που ήταν ευάλωτο σε επίθεση από έναν πράκτορα τεχνητής νοημοσύνης.
Η απάντηση, είπε ο Ντιλέινι, εξαρτάται από το τι είχε εξουσιοδοτήσει ο χρήστης, ποιοι ήταν οι κίνδυνοι που θα μπορούσαν να είχαν προβλεφθεί και το κατά πόσο η προβληματική συμπεριφορά έλαβε χώρα στο πλαίσιο εμπορικής ή επιχειρηματικής δραστηριότητας.
Πηγή:in.gr
