Πρόγραμμα δημιουργίας κειμένου με τεχνητή νοημοσύνη κρίθηκε πολύ ριψοκίνδυνο για να κυκλοφορήσει
Τech & Science

Πρόγραμμα δημιουργίας κειμένου με τεχνητή νοημοσύνη κρίθηκε πολύ ριψοκίνδυνο για να κυκλοφορήσει

Το πανίσχυρο GPT2, είναι τόσο καλό που μπορεί να είναι επικίνδυνο

Οι δημιουργοί ενός επαναστατικού προγράμματος Τεχνητής Νοημοσύνης το οποίο μπορεί να γράψει κείμενα, ειδήσεις και έργα φαντασίας, ανακοίνωσαν πως αποφάσισαν να μην δημοσιοποιήσουν την έρευνά τους καθώς φοβούνται πως κάτι τέτοιο θα ήταν επικίνδυνο.

 

Η OpenAI, μια μη κερδοσκοπική ερευνητική εταιρεία που υποστηρίζεται από τον Έλον Μασκ, λέει ότι το νέο πρόγραμμα τεχνητής νοημοσύνης, που ονομάζεται GPT2, είναι τόσο καλό και ο κίνδυνος κακόβουλης χρήσης τόσο υψηλός, ώστε να αποφασίσει πως δεν θα προχωρήσει στην απελευθέρωση της πλήρους έρευνας στο κοινό.

 

Η εταιρία αναφέρει πως απαιτείται περισσότερος χρόνος για να αναλυθούν οι συνέπειες της τεχνολογικής εξέλιξης, σύμφωνα με όσα γράφει ο Guardian.


Στον πυρήνα του, το GPT2 είναι μια γεννήτρια κειμένου, αλλά αποδείχθηκε πανίσχυρη. Το σύστημα τροφοδοτείται με κείμενο, από λίγα λόγια μέχρι μια ολόκληρη σελίδα και του ζητείται να γράψει τις επόμενες προτάσεις που βασίζονται στις προβλέψεις του για το τι θα ακολουθήσει. 

 

Όταν χρησιμοποιείται για να παράγει απλά νέο κείμενο, το GPT2 είναι σε θέση να γράφει φυσιολογικά περάσματα που ταιριάζουν με αυτά που του δόθηκαν τόσο σε στιλ όσο και σε θέμα. 

 

Το πρόγραμμα σπάνια απέτυχε να συνεχίσει το κείμενο με αστοχίες ενώ αναφέρεται πως όταν σε δοκιμή του δόθηκε να συνεχίζει ένα απόσπασμα από το «1984» του Τζορτζ Όργουελ, τότε αυτό πέτυχε να διατηρήσει ακόμη και το λογοτεχνικό ύφος του συγγραφέα.

 

Από την άποψη της έρευνας, το GPT2 είναι πρωτοποριακό με δύο τρόπους. Το ένα είναι το μέγεθός του, καθώς μπορεί να διαχειριστεί τεράστιο όγκο πληροφοριών σε σχέση με τα προηγούμενα προγράμματα και «εκπαιδεύτηκε» να λειτουργεί και να επεξεργάζεται έναν εξίσου τεράστιο όγκο εκατομμυρίων κειμένων που έφτασε τα 40 GB

 

Επίσης μπορεί να εκτελέσει παράλληλες εργασίες, συμπεριλαμβανομένης της μετάφρασης και της συνοπτικής παρουσίασης, και να περάσει απλές δοκιμασίες κατανόησης της ανάγνωσης, καλύτερα και από άλλα συστήματα AI που έχουν σχεδιαστεί ειδικά για αυτά τα καθήκοντα.

 

Αυτές όμως οι επιδόσεις θα κρατήσουν το GPT2 πίσω από κλειστές πόρτες για την ώρα, καθώς εκτιμάται πως οι συνέπειες θα ήταν απρόβλεπτες αν έπεφτε στα χέρια κακόβουλων χρηστών.

 

«Πρέπει να εκτελέσουμε πειράματα για να μάθουμε τι μπορούν και δεν μπορούν να κάνουν με το σύστημα», δήλωσε ο Jack Clark, ο επικεφαλής της μη κερδοσκοπικής ερευνητικής εταιρείας εξηγώντας πως δε είναι σε θέση να προβλέψουν πώς μπορεί να χρησιμοποιηθεί. 

 

Για να δείξει τι σημαίνει αυτό, η OpenAI έκανε μια έκδοση του GPT2 με λίγες μικρές τροποποιήσεις, που μπορεί να χρησιμοποιηθεί για τη δημιουργία άπειρων θετικών ή αρνητικών κριτικών για προϊόντα.

 

Τα ανεπιθύμητα μηνύματα και τα ψεύτικα νέα είναι δύο άλλα προφανή δυνητικά μειονεκτήματα. Καθώς εκπαιδεύεται στο διαδίκτυο, δεν είναι δύσκολο να το ενθαρρύνει κάποιος να δημιουργήσει κείμενο φανατισμού, θεωρίες συνωμοσίας και ούτω καθεξής.

 

Για την ώρα το πρόγραμμα θα μείνει στο εργαστήριο και θα μελετηθεί περαιτέρω καθώς η αναπάντεχη επιτυχία του ίσως τελικά να χρειάζεται περιορισμό

Τech & Science

ΔΕΙΤΕ ΑΚΟΜΑ

Η Huawei στρέφεται δικαστικά κατά της αμερικανικής κυβέρνησης

Τech & Science Η Huawei στρέφεται δικαστικά κατά της αμερικανικής κυβέρνησης

5.12.2019
Νέα εφαρμογή προβλέπει τις συγκρούσεις που θα ξεσπάσουν για το νερό ένα χρόνο πριν

Τech & Science Νέα εφαρμογή προβλέπει τις συγκρούσεις που θα ξεσπάσουν για το νερό ένα χρόνο πριν

5.12.2019
Playstation: Συμπληρώθηκαν 25 χρόνια από την κυκλοφορία της αγαπημένης κονσόλας

Τech & Science Playstation: Συμπληρώθηκαν 25 χρόνια από την κυκλοφορία της αγαπημένης κονσόλας

5.12.2019
Ανακαλύφθηκε εξωπλανήτης 4 φορές μεγαλύτερος από τη Γη, γύρω από ένα άστρο «λευκό νάνο»

Τech & Science Ανακαλύφθηκε εξωπλανήτης 4 φορές μεγαλύτερος από τη Γη, γύρω από ένα άστρο «λευκό νάνο»

4.12.2019
Γιατί το Instagram αποφάσισε να απαιτήσει δήλωση ηλικίας απ' όσους κάνουν τώρα λογαριασμό

Τech & Science Γιατί το Instagram αποφάσισε να απαιτήσει δήλωση ηλικίας απ' όσους κάνουν τώρα λογαριασμό

4.12.2019
Ηλεκτροφόρο χέλι «φωταγωγεί» χριστουγεννιάτικο δέντρο σε ενυδρείο του Τενεσί

Τech & Science Ηλεκτροφόρο χέλι «φωταγωγεί» χριστουγεννιάτικο δέντρο σε ενυδρείο του Τενεσί

4.12.2019
«Δεινοθήρια και Σεκόιες» στο Ιδρυμα Ευγενίδου

Τech & Science «Δεινοθήρια και Σεκόιες» στο Ιδρυμα Ευγενίδου

4.12.2019
Ο αδερφός του Πάμπλο Εσκομπάρ κυκλοφόρησε ένα ξεχωριστό, αναδιπλούμενο smartphone

Τech & Science Ο αδερφός του Πάμπλο Εσκομπάρ κυκλοφόρησε ένα ξεχωριστό, αναδιπλούμενο smartphone

4.12.2019
Πείραμα με γενετικά τροποποιημένα μωρά στην Κίνα: «Ίσως προκάλεσε ανεπιθύμητες μεταλλάξεις»

Τech & Science Πείραμα με γενετικά τροποποιημένα μωρά στην Κίνα: «Ίσως προκάλεσε ανεπιθύμητες μεταλλάξεις»

4.12.2019
Το TikTok λογοκρίνει βίντεο χρηστών με νοητική υστέρηση και άτομα από την LGBTQ κοινότητα

Τech & Science Το TikTok λογοκρίνει βίντεο χρηστών με νοητική υστέρηση και άτομα από την LGBTQ κοινότητα

4.12.2019