Πρόγραμμα δημιουργίας κειμένου με τεχνητή νοημοσύνη κρίθηκε πολύ ριψοκίνδυνο για να κυκλοφορήσει
Τech & Science

Πρόγραμμα δημιουργίας κειμένου με τεχνητή νοημοσύνη κρίθηκε πολύ ριψοκίνδυνο για να κυκλοφορήσει

Το πανίσχυρο GPT2, είναι τόσο καλό που μπορεί να είναι επικίνδυνο

Οι δημιουργοί ενός επαναστατικού προγράμματος Τεχνητής Νοημοσύνης το οποίο μπορεί να γράψει κείμενα, ειδήσεις και έργα φαντασίας, ανακοίνωσαν πως αποφάσισαν να μην δημοσιοποιήσουν την έρευνά τους καθώς φοβούνται πως κάτι τέτοιο θα ήταν επικίνδυνο.

 

Η OpenAI, μια μη κερδοσκοπική ερευνητική εταιρεία που υποστηρίζεται από τον Έλον Μασκ, λέει ότι το νέο πρόγραμμα τεχνητής νοημοσύνης, που ονομάζεται GPT2, είναι τόσο καλό και ο κίνδυνος κακόβουλης χρήσης τόσο υψηλός, ώστε να αποφασίσει πως δεν θα προχωρήσει στην απελευθέρωση της πλήρους έρευνας στο κοινό.

 

Η εταιρία αναφέρει πως απαιτείται περισσότερος χρόνος για να αναλυθούν οι συνέπειες της τεχνολογικής εξέλιξης, σύμφωνα με όσα γράφει ο Guardian.


Στον πυρήνα του, το GPT2 είναι μια γεννήτρια κειμένου, αλλά αποδείχθηκε πανίσχυρη. Το σύστημα τροφοδοτείται με κείμενο, από λίγα λόγια μέχρι μια ολόκληρη σελίδα και του ζητείται να γράψει τις επόμενες προτάσεις που βασίζονται στις προβλέψεις του για το τι θα ακολουθήσει. 

 

Όταν χρησιμοποιείται για να παράγει απλά νέο κείμενο, το GPT2 είναι σε θέση να γράφει φυσιολογικά περάσματα που ταιριάζουν με αυτά που του δόθηκαν τόσο σε στιλ όσο και σε θέμα. 

 

Το πρόγραμμα σπάνια απέτυχε να συνεχίσει το κείμενο με αστοχίες ενώ αναφέρεται πως όταν σε δοκιμή του δόθηκε να συνεχίζει ένα απόσπασμα από το «1984» του Τζορτζ Όργουελ, τότε αυτό πέτυχε να διατηρήσει ακόμη και το λογοτεχνικό ύφος του συγγραφέα.

 

Από την άποψη της έρευνας, το GPT2 είναι πρωτοποριακό με δύο τρόπους. Το ένα είναι το μέγεθός του, καθώς μπορεί να διαχειριστεί τεράστιο όγκο πληροφοριών σε σχέση με τα προηγούμενα προγράμματα και «εκπαιδεύτηκε» να λειτουργεί και να επεξεργάζεται έναν εξίσου τεράστιο όγκο εκατομμυρίων κειμένων που έφτασε τα 40 GB

 

Επίσης μπορεί να εκτελέσει παράλληλες εργασίες, συμπεριλαμβανομένης της μετάφρασης και της συνοπτικής παρουσίασης, και να περάσει απλές δοκιμασίες κατανόησης της ανάγνωσης, καλύτερα και από άλλα συστήματα AI που έχουν σχεδιαστεί ειδικά για αυτά τα καθήκοντα.

 

Αυτές όμως οι επιδόσεις θα κρατήσουν το GPT2 πίσω από κλειστές πόρτες για την ώρα, καθώς εκτιμάται πως οι συνέπειες θα ήταν απρόβλεπτες αν έπεφτε στα χέρια κακόβουλων χρηστών.

 

«Πρέπει να εκτελέσουμε πειράματα για να μάθουμε τι μπορούν και δεν μπορούν να κάνουν με το σύστημα», δήλωσε ο Jack Clark, ο επικεφαλής της μη κερδοσκοπικής ερευνητικής εταιρείας εξηγώντας πως δε είναι σε θέση να προβλέψουν πώς μπορεί να χρησιμοποιηθεί. 

 

Για να δείξει τι σημαίνει αυτό, η OpenAI έκανε μια έκδοση του GPT2 με λίγες μικρές τροποποιήσεις, που μπορεί να χρησιμοποιηθεί για τη δημιουργία άπειρων θετικών ή αρνητικών κριτικών για προϊόντα.

 

Τα ανεπιθύμητα μηνύματα και τα ψεύτικα νέα είναι δύο άλλα προφανή δυνητικά μειονεκτήματα. Καθώς εκπαιδεύεται στο διαδίκτυο, δεν είναι δύσκολο να το ενθαρρύνει κάποιος να δημιουργήσει κείμενο φανατισμού, θεωρίες συνωμοσίας και ούτω καθεξής.

 

Για την ώρα το πρόγραμμα θα μείνει στο εργαστήριο και θα μελετηθεί περαιτέρω καθώς η αναπάντεχη επιτυχία του ίσως τελικά να χρειάζεται περιορισμό

Τech & Science

ΔΕΙΤΕ ΑΚΟΜΑ

Κορωνοϊός: Εθελοντές στην Ξάνθη κατασκευάζουν προστατευτικές μάσκες - Σε 3D εκτυπωτές

Τech & Science Κορωνοϊός: Εθελοντές στην Ξάνθη κατασκευάζουν προστατευτικές μάσκες - Σε 3D εκτυπωτές

30.3.2020
Κορωνοϊός: Η Mercedes F1 κατασκευάζει αναπνευστικές συσκευές που θα αποσυμφορήσουν τις ΜΕΘ

Τech & Science Κορωνοϊός: Η Mercedes F1 κατασκευάζει αναπνευστικές συσκευές που θα αποσυμφορήσουν τις ΜΕΘ

30.3.2020
Άλεξ Τζόουνς: Η Google απαγόρευσε την εφαρμογή του συνωμοσιολόγου λόγω βίντεο για τον κορωνοϊό

Τech & Science Άλεξ Τζόουνς: Η Google απαγόρευσε την εφαρμογή του συνωμοσιολόγου λόγω βίντεο για τον κορωνοϊό

29.3.2020
Μπορούμε να διαγράψουμε αναμνήσεις, λένε Κινέζοι επιστήμονες

Τech & Science Μπορούμε να διαγράψουμε αναμνήσεις, λένε Κινέζοι επιστήμονες

29.3.2020
Κλινική μελέτη ανοσοθεραπείας σε διασωληνωμένους ασθενείς σε 6 ελληνικές ΜΕΘ

Τech & Science Κλινική μελέτη ανοσοθεραπείας σε διασωληνωμένους ασθενείς σε 6 ελληνικές ΜΕΘ

29.3.2020
Θα μπορούσαν οι σκύλοι να διαγνώσουν τον κορωνοϊό μέσω της όσφρησης;

Τech & Science Θα μπορούσαν οι σκύλοι να διαγνώσουν τον κορωνοϊό μέσω της όσφρησης;

28.3.2020
Επιστήμονες ανακάλυψαν τρία νέα είδη πτερόσαυρων στη Σαχάρα

Τech & Science Επιστήμονες ανακάλυψαν τρία νέα είδη πτερόσαυρων στη Σαχάρα

28.3.2020
Pandemic Architecture: Διεθνής Διαγωνισμός: Τι μπορεί να κάνει η Αρχιτεκτονική για την υγεία μας;

Τech & Science Pandemic Architecture: Διεθνής Διαγωνισμός: Τι μπορεί να κάνει η Αρχιτεκτονική για την υγεία μας;

28.3.2020
Πώς το streaming αναδεικνύεται ως ο μεγάλος «νικητής» της καραντίνας

Τech & Science Πώς το streaming αναδεικνύεται ως ο μεγάλος «νικητής» της καραντίνας

27.3.2020
Η Apple προσφέρει δωρεάν λογισμικό επεξεργασίας βίντεο και ήχου

Τech & Science Η Apple προσφέρει δωρεάν λογισμικό επεξεργασίας βίντεο και ήχου

27.3.2020