Δευτέρα 10 Ιουνίου 2024

Υπάλληλος του OpenAI λέει ότι η τεχνητή νοημοσύνη θα προκαλέσει σύντομα καταστροφική βλάβη στην ανθρωπότητα

Υπάλληλος του OpenAI λέει ότι η τεχνητή νοημοσύνη θα προκαλέσει σύντομα καταστροφική βλάβη στην ανθρωπότητα
06/10/2024
Σε έναν κόσμο όπου η τεχνολογία προχωρά με απίστευτη ταχύτητα, τα θέματα ασφάλειας της τεχνητής νοημοσύνης (AI) γίνονται όλο και πιο σημαντικά. Στις 4 Ιουνίου, μια ομάδα πρώην και νυν υπαλλήλων του OpenAI δημοσίευσε μια ανοιχτή επιστολή που προκάλεσε ευρεία απήχηση στην επιστημονική κοινότητα και στο κοινό. Οι Science Times αναφέρουν αυτό .

Η επιστολή, υπογεγραμμένη επίσης από τον πρώην ερευνητή διακυβέρνησης του OpenAI, Daniel Kokotailo, περιέχει σοβαρές κατηγορίες εναντίον της εταιρείας. Οι συγγραφείς υποστηρίζουν ότι το OpenAI αγνοεί τις πιθανές απειλές που σχετίζονται με την ανάπτυξη της τεχνητής γενικής νοημοσύνης (AGI) και προσπαθεί να γίνει πρωτοπόρος σε αυτόν τον τομέα, παρά τους πιθανούς κινδύνους για την ανθρωπότητα.
Ο Kokotaylo, ο οποίος εντάχθηκε στο OpenAI το 2022, εξέφρασε ανησυχίες ότι η εταιρεία θα μπορούσε να φτάσει στο AGI μέχρι το 2027, κάτι που πιστεύει ότι θα μπορούσε να είναι καταστροφικό. Αναφέρει μια πιθανότητα 70% ότι η τεχνητή νοημοσύνη θα μπορούσε να καταστρέψει την ανθρωπότητα εάν δεν ληφθούν τα κατάλληλα μέτρα ασφαλείας.
Στην ανοιχτή επιστολή αναφέρεται επίσης ο Geoffrey Hinton, γνωστός στους επιστημονικούς κύκλους ως ο «Νονός της AI», ο οποίος φημολογείται ότι έφυγε από την Google για παρόμοιους λόγους. Η επιστολή τονίζει την ανάγκη εκπαίδευσης του κοινού σχετικά με τις πιθανές απειλές της τεχνητής νοημοσύνης και ζητά μια πιο υπεύθυνη προσέγγιση στην τεχνολογική ανάπτυξη.
Σε απάντηση στη δημοσίευση της επιστολής, το OpenAI δήλωσε τη δέσμευσή του για την ασφάλεια και ισχυρίστηκε ότι ακολουθούσε μια επιστημονική προσέγγιση για την αντιμετώπιση των κινδύνων. Η εταιρεία τόνισε τα επιτεύγματά της στη δημιουργία ασφαλών και παραγωγικών συστημάτων AI.
Το θέμα του AGI παραμένει ένα από τα πιο αμφιλεγόμενα στον τομέα της τεχνητής νοημοσύνης. Σε αντίθεση με το σύγχρονο AI, το οποίο λειτουργεί εντός συγκεκριμένων παραμέτρων, το AGI είναι ένα σύστημα με ανθρώπινη νοημοσύνη που μπορεί ανεξάρτητα να μάθει και να λύσει μια ποικιλία προβλημάτων. Αν και το AGI παραμένει μια θεωρητική έννοια, οι διαμάχες γύρω από αυτό συνεχίζουν να κερδίζουν δυναμική, υπογραμμίζοντας τη σημασία μιας υπεύθυνης προσέγγισης για το μέλλον της τεχνητής νοημοσύνης.

Δεν υπάρχουν σχόλια: