Τον κώδικα που ελέγχει τι επιτρέπεται να κάνουν αυτόνομοι βοηθοί τεχνητής νοημοσύνης συνεισφέρει η Nvidia στην Cloud Native Computing Foundation, την CNCF. Η συνεισφορά ανακοινώθηκε στις 10 Νοεμβρίου, στο πλαίσιο του KubeCon, με το OpenShell ως κοινή βάση για εταιρείες και προγραμματιστές που θέλουν να αναπτύσσουν και να ελέγχουν τέτοιες εφαρμογές.
Η ανακοίνωση αφορά το περιβάλλον μέσα στο οποίο ενεργεί ένας βοηθός. Το OpenShell δεν είναι νέο γλωσσικό μοντέλο: θέτει όρια στις ενέργειες ενός μοντέλου όταν αυτό χρησιμοποιεί εργαλεία, αρχεία ή υπηρεσίες.
Απάντηση και ενέργεια έχουν διαφορετικό βάρος
Ενας βοηθός που απλώς προτείνει μια διατύπωση έχει διαφορετικές δυνατότητες από έναν που μπορεί να αλλάξει αρχεία ή να συνδεθεί σε εταιρικά συστήματα. Στη δεύτερη περίπτωση, μια λανθασμένη απόφαση μπορεί να έχει άμεσο αποτέλεσμα έξω από τη συνομιλία.
Το OpenShell περιορίζει την εργασία σε ελεγχόμενο περιβάλλον και εφαρμόζει πολιτικές πρόσβασης. Η CNCF περιγράφει έναν ξεχωριστό μηχανισμό επίβλεψης που αποφασίζει τι μπορεί να προσεγγίσει ο βοηθός. Η βασική ιδέα είναι ότι τα όρια δεν πρέπει να εξαρτώνται μόνο από την υπόσχεση του μοντέλου ότι θα ακολουθήσει μια γραπτή οδηγία.
Τι σημαίνει ανοικτό έργο
Η ένταξη στην κατηγορία Sandbox της CNCF δίνει χώρο για κοινή ανάπτυξη και έλεγχο του κώδικα. Δεν αποτελεί πιστοποιητικό ότι κάθε εφαρμογή είναι ασφαλής ή ότι αποκλείονται οι αστοχίες. Η σωστή ρύθμιση των δικαιωμάτων εξακολουθεί να είναι ευθύνη όσων εγκαθιστούν τα συστήματα.
Η Nvidia ανακοίνωσε επίσης συνεργασία για το Agent Substrate, έργο που ξεκίνησε από την Google και οργανώνει τη λειτουργία πολλών βοηθών σε υποδομές Kubernetes. Οι ανακοινώσεις προηγήθηκαν της αλλαγής ηγεσίας της Nvidia στις 12 Νοεμβρίου, όταν ο συνιδρυτής Τζένσεν Χουάνγκ αποχώρησε από τη θέση του διευθύνοντος συμβούλου.
