Ένας υπάλληλος της OpenAI που εργαζόταν για την ασφάλεια της τεχνητής νοημοσύνης παραιτήθηκε από την εταιρεία, προειδοποιώντας ότι οι κορυφαίες εταιρείες τεχνητής νοημοσύνης δεν κάνουν αρκετά για να μετριάσουν τους κινδύνους που συνδέονται με αυτήν την τεχνολογία.
Αυτή η παραίτηση προστίθεται σε μία αυξανόμενη σειρά ανησυχιών από εργαζόμενους του κλάδου της ΑΙ.
Ο Ντέιβιντ Ρόμπινσον, πρώην επικεφαλής του τομέα διαφάνειας στην ομάδα ασφάλειας της OpenAI, έγραψε σε άρθρο του στο περιοδικό The Atlantic ότι η κατασκευάστρια εταιρεία του ChatGPT “έχει ευδοκιμήσει μέσω της μεθόδου δοκιμής και λάθους”. Ωστόσο, επισημαίνει ότι οι κίνδυνοι που προκύπτουν από τις αναπόφευκτες αποτυχίες αυξάνονται, καθώς η τεχνολογία εξελίσσεται, κάνοντας αναφορά στην αποτυχία της OpenAI να αποτρέψει την εκτός ελέγχου συμπεριφορά των μοντέλων της κατά τη διάρκεια των δοκιμών.
Ο Ρόμπινσον δήλωσε: “Οι πρώην συνάδελφοί μου είναι έξυπνοι και εργάζονται σκληρά, προσπαθώντας να κάνουν τις σωστές επιλογές. Παρόλα αυτά, καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην άλλη, φαίνεται να μην καταφέρνει να πετύχει το επίπεδο προσοχής που απαιτείται”. Προσθέτει ότι απαιτείται “κάτι πολύ πιο κοντά στην τελειότητα από την αρχή”.
Στις πρόσφατες εβδομάδες, αρκετοί εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης έχουν εκφράσει ανησυχίες για τους πιθανώς καταστροφικούς κινδύνους που ενέχει η AI. Κάποιοι προειδοποιούν ότι υπάρχει η πιθανότητα αυτή η τεχνολογία να απειλήσει την επιβίωση του ανθρώπινου είδους.
Σε αυτό το πλαίσιο, ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο πρωτοποριακών μοντέλων, δηλώνοντας ότι η εταιρεία του θα προσλάβει ανεξάρτητους εμπειρογνώμονες για να συμβάλλουν στον έλεγχο της τεχνολογίας. Άλλοι εκπρόσωποι του κλάδου, όπως ο Σαμ Άλτμαν της OpenAI, έχουν υποστηρίξει δημοσίως την πρόταση του Αμοντέι.
Στο άρθρο του, ο Ρόμπινσον αναφέρει ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να λειτουργούν με τρόπο παρόμοιο με τους πυρηνικούς σταθμούς, “με επίπεδα εφεδρείας και προσεκτικό, χρονοβόρο σχεδιασμό, έτσι ώστε το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίξει την πόρτα στην καταστροφή”.
Για την ώρα, είπε, “οι εταιρείες τεχνητής νοημοσύνης δεν ξέρουν πώς – αλλά άλλοι άνθρωποι ξέρουν”.
Ένας εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία κάνει αλλαγές για να ενισχύσει την ασφάλεια στα ερευνητικά και δοκιμαστικά περιβάλλοντά της, εκπαιδεύοντας τα μοντέλα τεχνητής νοημοσύνης ώστε να ολοκληρώνουν τις εργασίες τους με υπευθυνότητα, επεκτείνοντας τη συνεργασία με εξωτερικούς εμπειρογνώμονες, και βελτιώνοντας την παρακολούθηση σε πραγματικό χρόνο για τον εντοπισμό ανησυχητικής συμπεριφοράς από τα μοντέλα της.
Η εταιρεία διασφαλίζει ότι τα μοντέλα της δεν θα γίνουν πιο ικανά από ό,τι μπορεί να διαχειριστεί με ασφάλεια η OpenAI, ανέφερε ο εκπρόσωπος της εταιρείας στο Bloomberg.
Πηγή: indicator.gr
