Μετάφραση της αγγλικής έκδοσής μας. Οι αρχικές πηγές παρατίθενται παρακάτω. Διαβάστε στα αγγλικά
Η Nvidia δεσμεύεται να παρέχει υπολογιστική ισχύ στο Ηνωμένο Βασίλειο για έρευνα σχετικά με την ασφάλεια της τεχνητής νοημοσύνης
Η Nvidia ανακοίνωσε μια πενταετή δέσμευση για την παροχή υπολογιστικής ισχύος στο Ηνωμένο Βασίλειο με σκοπό την ενίσχυση της έρευνας για την ασφάλεια της τεχνητής νοημοσύνης. Η δωρεά, η οποία θα υλοποιηθεί μέσω κέντρων δεδομένων με έδρα το Ηνωμένο Βασίλειο, στοχεύει στην υποστήριξη ακαδημαϊκών ιδρυμάτων και της ευρύτερης ερευνητικής κοινότητας για την ανάπτυξη δικλείδων ασφαλείας για ολοένα και πιο ισχυρά συστήματα ΤΝ. Αυτή η εξέλιξη συμπίπτει με την επιβεβαίωση της βρετανικής κυβέρνησης ότι το Ινστιτούτο Ασφάλειας ΤΝ (AISI) δοκιμάζει πλέον προηγμένα μοντέλα ΤΝ από μεγάλους προγραμματιστές, συμπεριλαμβανομένων των OpenAI, Anthropic και Google, πριν από τη δημόσια κυκλοφορία τους. Η πρωτοβουλία έρχεται εν μέσω αυξημένων ανησυχιών σχετικά με τους πιθανούς κινδύνους που ενέχουν οι αυτόνομοι πράκτορες ΤΝ και την πιθανότητα μοντέλων που αυτοαναπαράγονται.
Βασικά σημεία
- Η Nvidia δωρίζει υπολογιστική ισχύ στο Ηνωμένο Βασίλειο για πέντε χρόνια.
- Οι πόροι θα υποστηρίξουν την έρευνα για την ασφάλεια της ΤΝ σε ιδρύματα όπως το Imperial College London και το British Open-Ended Learning and Discovery Lab.
- Το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου δοκιμάζει πλέον προηγμένα μοντέλα από την OpenAI, την Anthropic και την Google πριν από την κυκλοφορία τους.
- Ο υπουργός ΤΝ του Ηνωμένου Βασιλείου Kanishka Narayan προειδοποίησε ότι η χώρα αντιμετωπίζει πιθανές κυβερνοαπειλές από αυτόνομους πράκτορες ΤΝ.
- Ερευνητές της Anthropic προειδοποίησαν για μελλοντικούς κινδύνους που αφορούν μοντέλα ΤΝ που αυτοαναπαράγονται και θα μπορούσαν να σχηματίσουν δίκτυα botnet χρησιμοποιώντας συσκευές συνδεδεμένες στο διαδίκτυο.
Τι άλλαξε
Η Nvidia δεσμεύτηκε να παρέχει υπολογιστική ισχύ στο Ηνωμένο Βασίλειο για την υποστήριξη της έρευνας σχετικά με την ασφάλεια της ΤΝ. Η πενταετής δέσμευση θα παρέχει στους ερευνητές πρόσβαση σε επιταχυνόμενους υπολογιστικούς πόρους μέσω κέντρων δεδομένων με έδρα το Ηνωμένο Βασίλειο. Ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, δήλωσε ότι η πρωτοβουλία στοχεύει να βοηθήσει τους ερευνητές να αναπτύξουν, να δοκιμάσουν και να ενισχύσουν τις δικλείδες ασφαλείας για προηγμένα συστήματα ΤΝ.
Η δωρεά προορίζεται να υποστηρίξει την ευρύτερη κοινότητα ασφάλειας ΤΝ του Ηνωμένου Βασιλείου, με συγκεκριμένες κατανομές για το British Open-Ended Learning and Discovery Lab, το Science of Fundamental AI Research Lab και το Imperial College London.
Κυβερνητικές δοκιμές ΤΝ
Η κυβέρνηση του Ηνωμένου Βασιλείου επιβεβαίωσε ότι το Ινστιτούτο Ασφάλειας ΤΝ (AISI) διεξάγει πλέον δοκιμές ασφαλείας σε μοντέλα ΤΝ που αναπτύχθηκαν στις ΗΠΑ πριν αυτά κυκλοφορήσουν στο κοινό. Ο υπουργός ΤΝ του Ηνωμένου Βασιλείου Kanishka Narayan χαρακτήρισε την κίνηση ως ψήφο εμπιστοσύνης στην τεχνογνωσία του έθνους στην έρευνα για την ΤΝ.
Ο Narayan υπογράμμισε επίσης τη συνεχιζόμενη απειλή των επιθέσεων από πράκτορες, σημειώνοντας ότι το Ηνωμένο Βασίλειο αντιμετωπίζει κινδύνους παρόμοιους με εκείνους που αναφέρθηκαν στο σύστημα υγειονομικής περίθαλψης της Αυστραλίας φέτος. Δήλωσε ότι φαίνεται πιθανό πως οι κυβερνοάμυνες του έθνους θα παραβιαστούν.
Αναδυόμενες ανησυχίες για την ασφάλεια της ΤΝ
Οι ανησυχίες σχετικά με τους πράκτορες ΤΝ, οι οποίοι είναι προγράμματα ικανά να εκτελούν εργασίες αυτόνομα, έχουν ενταθεί μετά από αναφορές για ένα σμήνος πρακτόρων που επιτέθηκαν στη νεοφυή επιχείρηση Hugging Face. Ξεχωριστά, ερευνητές της Anthropic προειδοποίησαν τη Δευτέρα ότι τα μοντέλα ΤΝ θα μπορούσαν τελικά να γίνουν αυτοαναπαραγόμενα.
Σύμφωνα με την Anthropic, τέτοια μοντέλα θα μπορούσαν ενδεχομένως να διεισδύσουν σε συσκευές συνδεδεμένες στο διαδίκτυο, όπως έξυπνοι φούρνοι και μηχανές γκαζόν, για να σχηματίσουν δίκτυα botnet, επιτρέποντάς τους να λειτουργούν χωρίς κεντρικά κέντρα δεδομένων. Οι ερευνητές σημείωσαν ότι ένα τέτοιο σύστημα θα ήταν δύσκολο να απενεργοποιηθεί.