Η Σύνοδος Κορυφής στη Σεούλ μας φέρνει πιο κοντά στα Ρομπότ!"
AI Seoul Summit για να εξερευνήσετε ιδέες σχετικά με την ασφάλεια, την καινοτομία, την ένταξη
Δημοσιεύτηκε : 20-05-2024 
φωτο--Ο τρίτος αναπληρωτής διευθυντής Εθνικής Ασφάλειας Wang Yun-jong μιλάει κατά τη διάρκεια μιας ενημέρωσης τύπου στο προεδρικό γραφείο στη Σεούλ, τη Δευτέρα, σχετικά με τη Σύνοδο Κορυφής της AI Σεούλ που θα ξεκινήσει την Τρίτη.
Αναμένεται πρόοδος στις κοινές απόψεις για τον καθορισμό των κινδύνων της ΤΝ
Η Κορέα και το Ηνωμένο Βασίλειο θα φιλοξενήσουν από κοινού μια σύνοδο κορυφής για την ασφαλή χρήση της τεχνητής νοημοσύνης (AI), η οποία θα είναι ένα στάδιο ανταγωνισμού μεταξύ χωρών που επιδιώκουν να ηγηθούν των συζητήσεων σχετικά με τους διεθνώς αποδεκτούς κανόνες που διέπουν την τεχνητή νοημοσύνη.
Σύμφωνα με το προεδρικό γραφείο της Κορέας, η Σύνοδος Κορυφής AI Σεούλ θα ξεκινήσει τη διήμερη διεξαγωγή της την Τρίτη, ως συνέχεια της πρώτης Διάσκεψης Ασφάλειας AI που φιλοξένησε το Ηνωμένο Βασίλειο στο Bletchley Park τον περασμένο Νοέμβριο.
Η εκδήλωση θα αποτελείται από μια διαδικτυακή συνεδρία ηγετών την πρώτη ημέρα. Οι ηγέτες της Ομάδας [G7] των Επτά εθνών, [Καναδάς, Γαλλία, Γερμανία, Ιταλία, Ιαπωνία, Ηνωμένο Βασίλειο, Ηνωμένες Πολιτείες] η Σιγκαπούρη και η Αυστραλία έχουν προσκληθεί στη σύνοδο, μαζί με τους επικεφαλής διεθνών οργανισμών όπως τα Ηνωμένα Έθνη, η Ευρωπαϊκή Ένωση και ο Οργανισμός Οικονομικής Συνεργασίας και Ανάπτυξης ΟΟΣΑ.
Την Τετάρτη θα ακολουθήσει σύνοδος υπουργών και θα συμμετάσχουν υπουργοί από τη Γερμανία, τη Γαλλία, την Ισπανία και άλλες χώρες.
Αν και η Κίνα δεν προσκλήθηκε στη σύνοδο των ηγετών, το Πεκίνο επιβεβαίωσε πρόσφατα ότι ο ανώτερος αξιωματούχος του θα συμμετάσχει στη σύνοδο των υπουργών.
Μεταξύ των επιχειρήσεων, το προεδρικό γραφείο είπε ότι έχουν προσκληθεί οι Samsung, Naver, Google, Amazon, Meta, Microsoft, OpenAI και άλλοι ηγέτες του κλάδου της τεχνητής νοημοσύνης.
Οι συζητήσεις θα επικεντρωθούν στην ασφάλεια της τεχνητής νοημοσύνης, εξετάζοντας τις πιθανές δυνατότητες των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης, αλλά θα περιλαμβάνουν πρόσθετες συζητήσεις για την καινοτομία και την ενσωμάτωση για να αναζητηθεί μια ισορροπημένη άποψη μεταξύ των κινδύνων που θέτει η τεχνητή νοημοσύνη και των θετικών πτυχών της ταυτόχρονα.
«Ενώ η περσινή σύνοδος κορυφής που φιλοξενήθηκε στο Ηνωμένο Βασίλειο επικεντρώθηκε στην ασφάλεια της τεχνητής νοημοσύνης, η φετινή σύνοδος κορυφής θα διευρύνει την ατζέντα ώστε να συμπεριλάβει την καινοτομία και την ένταξη εκτός από την ασφάλεια. Για το λόγο αυτό, οι συμμετέχοντες θα συζητήσουν με ισορροπημένο τρόπο όχι μόνο τους κινδύνους που ενέχει η τεχνητή νοημοσύνη αλλά και τις θετικές πτυχές της και πώς η τεχνητή νοημοσύνη μπορεί να συμβάλει στην ανθρωπότητα», δήλωσε ο Τρίτος Αναπληρωτής Διευθυντής Εθνικής Ασφάλειας Wang Yun-jong σε συνέντευξη Τύπου.
Ο Wang είπε ότι μια συμφωνία μεταξύ των συμμετεχόντων ηγετών θα εγκριθεί μετά τη σύνοδο των ηγετών και πιθανότατα θα αναφέρει την ασφάλεια, την καινοτομία και την ένταξη ως τα τρία ζωτικά συστατικά που απαιτούνται για την αξιοποίηση του πλήρους δυναμικού της AI.
φωτο--Ο Πρόεδρος Yoon Suk Yeol παρευρίσκεται στη διαδικτυακή σύνοδο ηγετών της Συνόδου Κορυφής για την Ασφάλεια AI που διοργανώθηκε από το Ηνωμένο Βασίλειο σε αυτήν τη φωτογραφία της 2ας Νοεμβρίου 2023.
Όσον αφορά την ασφάλεια της τεχνητής νοημοσύνης, οι συζητήσεις αναμένεται να βασιστούν στη Διακήρυξη Bletchley, η οποία εγκρίθηκε από τις συμμετέχουσες χώρες της περσινής συνόδου κορυφής.
Στη Διακήρυξη Bletchley, οι χώρες επιβεβαίωσαν ότι «η τεχνητή νοημοσύνη θα πρέπει να σχεδιάζεται, να αναπτύσσεται, και να χρησιμοποιείται, με τρόπο ασφαλή, με τέτοιο τρόπο ώστε να είναι ανθρωποκεντρική, αξιόπιστη και υπεύθυνη».
Οι χώρες συμφώνησαν επίσης να επικεντρωθούν στον «προσδιορισμό των κινδύνων για την ασφάλεια της τεχνητής νοημοσύνης κοινής ανησυχίας», αλλά δεν έφτασαν σε επίπεδο προσδιορισμού των κινδύνων λεπτομερώς, καθώς οι συζητήσεις ήταν σε πρώιμο στάδιο και κάθε έθνος είχε διαφορετικές προοπτικές.
Ενώ το έκανε, η Ευρωπαϊκή Ένωση ψήφισε τον δικό της νόμο για την τεχνητή νοημοσύνη, ο οποίος είναι ο πρώτος νομικά δεσμευτικός κανόνας στον κόσμο που συνοδεύεται από αξιολόγηση κατάστασης, ταξινόμηση κινδύνου και άλλες αυστηρές απαιτήσεις που αποσκοπούν στην πρόληψη τυχόν αρνητικών συνεπειών από τη χρήση συστημάτων τεχνητής νοημοσύνης.
Οι Ηνωμένες Πολιτείες εκδίδουν μια σειρά εκτελεστικών εντολών για την ασφάλεια της τεχνητής νοημοσύνης, ενώ η Κίνα πρότεινε επίσης μια παγκόσμια διακυβέρνηση της τεχνητής νοημοσύνης.
Οι ηγέτες στη σύνοδο κορυφής της Σεούλ αναμένεται να καταβάλουν προσπάθειες για να καθορίσουν τους κινδύνους της τεχνητής νοημοσύνης και τα μέσα για τον έλεγχό τους.
«Αν και απαιτούνται περαιτέρω συζητήσεις, μπορούμε να περιμένουμε ότι θα υπάρξει αξιοσημείωτη πρόοδος από τη Διακήρυξη Μπλέτσλεϊ στον καθορισμό των κινδύνων και του τρόπου με τον οποίο μπορούμε να τους αξιολογήσουμε», δήλωσε ανώτερος προεδρικός αξιωματούχος.
Σε ένα άρθρο κοινής συνεισφοράς στο inews του Ηνωμένου Βασιλείου, τη Δευτέρα, ο Πρόεδρος Yoon Suk Yeol και ο πρωθυπουργός του Ηνωμένου Βασιλείου Rishi Sunak είπαν ότι η Σύνοδος Κορυφής AI Σεούλ θα επικεντρωθεί στην καινοτομία, την ασφάλεια και τη συμμετοχή.
«Αν και έχουν γίνει θετικές προσπάθειες για τη διαμόρφωση της παγκόσμιας διακυβέρνησης της τεχνητής νοημοσύνης, εξακολουθούν να υπάρχουν σημαντικά κενά», αναφέρει το άρθρο. «Η Σύνοδος Κορυφής της AI της Σεούλ θα βοηθήσει στη δημιουργία ενός οράματος για τη διακυβέρνηση της τεχνητής νοημοσύνης που θα αντιμετωπίζει αυτά τα κενά, προάγοντας παράλληλα τις θεμελιώδεις προτεραιότητες της καινοτομίας, της ασφάλειας και της ένταξης».
https://www.koreatimes.co.kr/www/nation/2024/05/120_374985.html
Την Τετάρτη θα ακολουθήσει σύνοδος υπουργών και θα συμμετάσχουν υπουργοί από τη Γερμανία, τη Γαλλία, την Ισπανία και άλλες χώρες.
Αν και η Κίνα δεν προσκλήθηκε στη σύνοδο των ηγετών, το Πεκίνο επιβεβαίωσε πρόσφατα ότι ο ανώτερος αξιωματούχος του θα συμμετάσχει στη σύνοδο των υπουργών.
Μεταξύ των επιχειρήσεων, το προεδρικό γραφείο είπε ότι έχουν προσκληθεί οι Samsung, Naver, Google, Amazon, Meta, Microsoft, OpenAI και άλλοι ηγέτες του κλάδου της τεχνητής νοημοσύνης.
Οι συζητήσεις θα επικεντρωθούν στην ασφάλεια της τεχνητής νοημοσύνης, εξετάζοντας τις πιθανές δυνατότητες των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης, αλλά θα περιλαμβάνουν πρόσθετες συζητήσεις για την καινοτομία και την ενσωμάτωση για να αναζητηθεί μια ισορροπημένη άποψη μεταξύ των κινδύνων που θέτει η τεχνητή νοημοσύνη και των θετικών πτυχών της ταυτόχρονα.
«Ενώ η περσινή σύνοδος κορυφής που φιλοξενήθηκε στο Ηνωμένο Βασίλειο επικεντρώθηκε στην ασφάλεια της τεχνητής νοημοσύνης, η φετινή σύνοδος κορυφής θα διευρύνει την ατζέντα ώστε να συμπεριλάβει την καινοτομία και την ένταξη εκτός από την ασφάλεια. Για το λόγο αυτό, οι συμμετέχοντες θα συζητήσουν με ισορροπημένο τρόπο όχι μόνο τους κινδύνους που ενέχει η τεχνητή νοημοσύνη αλλά και τις θετικές πτυχές της και πώς η τεχνητή νοημοσύνη μπορεί να συμβάλει στην ανθρωπότητα», δήλωσε ο Τρίτος Αναπληρωτής Διευθυντής Εθνικής Ασφάλειας Wang Yun-jong σε συνέντευξη Τύπου.
Ο Wang είπε ότι μια συμφωνία μεταξύ των συμμετεχόντων ηγετών θα εγκριθεί μετά τη σύνοδο των ηγετών και πιθανότατα θα αναφέρει την ασφάλεια, την καινοτομία και την ένταξη ως τα τρία ζωτικά συστατικά που απαιτούνται για την αξιοποίηση του πλήρους δυναμικού της AI.
φωτο--Ο Πρόεδρος Yoon Suk Yeol παρευρίσκεται στη διαδικτυακή σύνοδο ηγετών της Συνόδου Κορυφής για την Ασφάλεια AI που διοργανώθηκε από το Ηνωμένο Βασίλειο σε αυτήν τη φωτογραφία της 2ας Νοεμβρίου 2023.
Όσον αφορά την ασφάλεια της τεχνητής νοημοσύνης, οι συζητήσεις αναμένεται να βασιστούν στη Διακήρυξη Bletchley, η οποία εγκρίθηκε από τις συμμετέχουσες χώρες της περσινής συνόδου κορυφής.
Στη Διακήρυξη Bletchley, οι χώρες επιβεβαίωσαν ότι «η τεχνητή νοημοσύνη θα πρέπει να σχεδιάζεται, να αναπτύσσεται, και να χρησιμοποιείται, με τρόπο ασφαλή, με τέτοιο τρόπο ώστε να είναι ανθρωποκεντρική, αξιόπιστη και υπεύθυνη».
Οι χώρες συμφώνησαν επίσης να επικεντρωθούν στον «προσδιορισμό των κινδύνων για την ασφάλεια της τεχνητής νοημοσύνης κοινής ανησυχίας», αλλά δεν έφτασαν σε επίπεδο προσδιορισμού των κινδύνων λεπτομερώς, καθώς οι συζητήσεις ήταν σε πρώιμο στάδιο και κάθε έθνος είχε διαφορετικές προοπτικές.
Ενώ το έκανε, η Ευρωπαϊκή Ένωση ψήφισε τον δικό της νόμο για την τεχνητή νοημοσύνη, ο οποίος είναι ο πρώτος νομικά δεσμευτικός κανόνας στον κόσμο που συνοδεύεται από αξιολόγηση κατάστασης, ταξινόμηση κινδύνου και άλλες αυστηρές απαιτήσεις που αποσκοπούν στην πρόληψη τυχόν αρνητικών συνεπειών από τη χρήση συστημάτων τεχνητής νοημοσύνης.
Οι Ηνωμένες Πολιτείες εκδίδουν μια σειρά εκτελεστικών εντολών για την ασφάλεια της τεχνητής νοημοσύνης, ενώ η Κίνα πρότεινε επίσης μια παγκόσμια διακυβέρνηση της τεχνητής νοημοσύνης.
Οι ηγέτες στη σύνοδο κορυφής της Σεούλ αναμένεται να καταβάλουν προσπάθειες για να καθορίσουν τους κινδύνους της τεχνητής νοημοσύνης και τα μέσα για τον έλεγχό τους.
«Αν και απαιτούνται περαιτέρω συζητήσεις, μπορούμε να περιμένουμε ότι θα υπάρξει αξιοσημείωτη πρόοδος από τη Διακήρυξη Μπλέτσλεϊ στον καθορισμό των κινδύνων και του τρόπου με τον οποίο μπορούμε να τους αξιολογήσουμε», δήλωσε ανώτερος προεδρικός αξιωματούχος.
Σε ένα άρθρο κοινής συνεισφοράς στο inews του Ηνωμένου Βασιλείου, τη Δευτέρα, ο Πρόεδρος Yoon Suk Yeol και ο πρωθυπουργός του Ηνωμένου Βασιλείου Rishi Sunak είπαν ότι η Σύνοδος Κορυφής AI Σεούλ θα επικεντρωθεί στην καινοτομία, την ασφάλεια και τη συμμετοχή.
«Αν και έχουν γίνει θετικές προσπάθειες για τη διαμόρφωση της παγκόσμιας διακυβέρνησης της τεχνητής νοημοσύνης, εξακολουθούν να υπάρχουν σημαντικά κενά», αναφέρει το άρθρο. «Η Σύνοδος Κορυφής της AI της Σεούλ θα βοηθήσει στη δημιουργία ενός οράματος για τη διακυβέρνηση της τεχνητής νοημοσύνης που θα αντιμετωπίζει αυτά τα κενά, προάγοντας παράλληλα τις θεμελιώδεις προτεραιότητες της καινοτομίας, της ασφάλειας και της ένταξης».
https://www.koreatimes.co.kr/www/nation/2024/05/120_374985.html
=============
Οι επικεφαλής της τεχνητής νοημοσύνης καταρρίπτουν τις δεσμεύσεις για την ασφάλεια
16 κορυφαίες εταιρείες τεχνητής νοημοσύνης συμφώνησαν σε νέες δεσμεύσεις για την ασφάλεια σε μια παγκόσμια σύνοδο κορυφής στη Σεούλ την Τρίτη, σύμφωνα με ανακοίνωση της βρετανικής κυβέρνησης.
«Αυτές οι δεσμεύσεις διασφαλίζουν ότι οι κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο θα παρέχουν διαφάνεια και υπευθυνότητα στα σχέδιά τους για την ανάπτυξη ασφαλούς τεχνητής νοημοσύνης», δήλωσε ο πρωθυπουργός του Ηνωμένου Βασιλείου Rishi Sunak.
Οι εταιρείες από την Κίνα και τα Ηνωμένα Αραβικά Εμιράτα είναι μεταξύ εκείνων που έχουν εγγραφεί εθελοντικά για τον κωδικό.
Οι επικεφαλής της τεχνητής νοημοσύνης καταρρίπτουν τις δεσμεύσεις για την ασφάλεια
16 κορυφαίες εταιρείες τεχνητής νοημοσύνης συμφώνησαν σε νέες δεσμεύσεις για την ασφάλεια σε μια παγκόσμια σύνοδο κορυφής στη Σεούλ την Τρίτη, σύμφωνα με ανακοίνωση της βρετανικής κυβέρνησης.
«Αυτές οι δεσμεύσεις διασφαλίζουν ότι οι κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο θα παρέχουν διαφάνεια και υπευθυνότητα στα σχέδιά τους για την ανάπτυξη ασφαλούς τεχνητής νοημοσύνης», δήλωσε ο πρωθυπουργός του Ηνωμένου Βασιλείου Rishi Sunak.
Οι εταιρείες από την Κίνα και τα Ηνωμένα Αραβικά Εμιράτα είναι μεταξύ εκείνων που έχουν εγγραφεί εθελοντικά για τον κωδικό.
Ωστόσο, ο επικεφαλής του Ερευνητικού Ινστιτούτου Τεχνητής Νοημοσύνης Ada Lovelace, Φραν Μπένετ, προειδοποίησε ότι «οι εταιρείες καθορίζουν τι είναι ασφαλές και τι είναι επικίνδυνο και επιλέγουν οικειοθελώς τι να κάνουν για αυτό – αυτό είναι προβληματικό».
---------------------------
Σε άρθρο που δημοσίευσαν στο περιοδικό «Science», 25 επιστήμονες από τις ΗΠΑ, την ΕΕ, το Ηνωμένο Βασίλειο και την Κίνα αναφέρουν ότι στην πραγματικότητα δεν έχουν γίνει αρκετά για την προστασία μας από τους κινδύνους της τεχνολογίας. Όπως επισημαίνουν, είναι επιτακτική ανάγκη οι παγκόσμιοι ηγέτες να λάβουν σοβαρά υπόψη τους την πιθανότητα ότι μέσα στην τρέχουσα ή την επόμενη δεκαετία θα αναπτυχθούν εξαιρετικά ισχυρά συστήματα γενικής τεχνητής νοημοσύνης, που θα υπερτερούν των ανθρώπινων ικανοτήτων σε πολλούς κρίσιμους τομείς.
Οι επιστήμονες ζητούν από τις κυβερνήσεις να δημιουργηθούν όργανα εμπειρογνωμόνων που θα δρουν με ταχύτητα για την εποπτεία της τεχνητής νοημοσύνης και θα αναλάβουν ηγετικό ρόλο στη δημιουργία ρυθμιστικού πλαισίου.
Το άρθρο συνυπογράφουν, μεταξύ άλλων, ο ιστορικός και φιλόσοφος Γιουβάλ Νόα Χαράρι, ο επιστήμονας Πληροφορικής και πρωτοπόρος της τεχνητής νοημοσύνης με τις περισσότερες ακαδημαϊκές αναφορές στον κόσμο, Τζέφρι Χίντον, και η μελετήτρια θεμάτων ασφαλείας τεχνητής νοημοσύνης με τις περισσότερες αναφορές, Ντον Σονγκ.
Τα κύρια θέματα που συζητούνται στη Σύνοδο Κορυφής για την Ασφάλεια της Τεχνητής Νοημοσύνης στη Σεούλ είναι:
1. Η ανάγκη για ισχυρότερη δράση από τους παγκόσμιους ηγέτες για τους κινδύνους της τεχνητής νοημοσύνης
2. Η πρόοδος στην ασφάλεια της τεχνητής νοημοσύνης είναι ανεπαρκής, με μόνο το 1-3% των δημοσιεύσεων για την τεχνητή νοημοσύνη να αφορά στην ασφάλεια
3. Η ανάπτυξη εξαιρετικά ισχυρών συστημάτων γενικής τεχνητής νοημοσύνης που θα υπερτερούν των ανθρώπινων ικανοτήτων σε πολλούς κρίσιμους τομείς
4. Η ανάγκη για δημιουργία όργανων εμπειρογνωμόνων για την εποπτεία της τεχνητής νοημοσύνης και για πολύ μεγαλύτερη χρηματοδότηση στον τομέα
5. Αυστηρότερες αξιολογήσεις κινδύνου και η απαίτηση από τις εταιρείες τεχνητής νοημοσύνης να θέτουν ως προτεραιότητα την ασφάλεια
Αυτά τα θέματα αντικατοπτρίζουν την επιτακτική ανάγκη για παγκόσμια συνεργασία και δράση για την ασφάλεια και την υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου