WormGPT: Η σκοτεινή πλευρά της τεχνητής νοημοσύνης...
Από Λάζαρος Γεωργούλας
Χρήσιμες και δωρεάν πληροφορίες για την κακή πλευρά του AI.. "Κατέβασε" εντελώς δωρεάν 3 ηλεκτρονικά βιβλία (PDF ebooks)!
1. Δωρεάν στρατηγική κέρδους
2. Οδηγός για νέες ιστοσελίδες
3. Βγάλε λεφτά με το bitcoin
Απλά βάλε το email σου στη παρακάτω φόρμα και θα λάβεις άμεσα τα 3 ebooks!
Μισώ το SPAM! Η διεύθυνση email σου είναι ασφαλής και δεν θα γνωστοποιηθεί ποτέ σε τρίτους! Αν ενδιαφέρεσαι, Μάθε περισσότερα για τα 3 ebooks...
ΠΡΟΣΟΧΗ! ΑΥΤΟ ΤΟ ΑΡΘΡΟ ΔΗΜΟΣΙΕΥΤΗΚΕ ΑΠΟΚΛΕΙΣΤΙΚΑ ΓΙΑ ΕΝΗΜΕΡΩΤΙΚΟΥΣ ΚΑΙ ΜΟΝΟ ΣΚΟΠΟΥΣ ΚΑΙ ΣΕ ΚΑΜΙΑ ΠΕΡΙΠΤΩΣΗ ΔΕΝ ΠΡΕΠΕΙ ΝΑ ΥΠΟΤΕΘΕΙ ΟΤΙ ΠΡΟΤΡΕΠΕΙ ΤΟΝ ΟΠΟΙΟΝΔΗΠΟΤΕ ΝΑ ΠΡΟΒΕΙ ΣΕ ΠΑΡΑΝΟΜΕΣ ΕΝΕΡΓΕΙΕΣ ΕΝΤΟΣ Ή ΕΚΤΟΣ ΔΙΑΔΙΚΤΥΟΥ. ΣΥΝΙΣΤΑΤΑΙ ΝΑ ΑΠΟΦΕΥΓΕΤΑΙ ΚΑΘΕ ΠΑΡΑΝΟΜΗ ΔΡΑΣΤΗΡΙΟΤΗΤΑ ΑΠΟ ΤΟΥΣ ΑΝΑΓΝΩΣΤΕΣ. ΣΥΝΕΧΙΣΤΕ ΤΗΝ ΑΝΑΓΝΩΣΗ ΜΕ ΔΙΚΗ ΣΑΣ ΕΥΘΥΝΗ.
Υπάρχει λοιπόν ένα νέο εργαλείο δημιουργίας με τεχνητή νοημοσύνη (AI) που έχει σχεδιαστεί ειδικά για κακόβουλες δραστηριότητες και ονομάζεται WormGPT. Σε αυτό το άρθρο θα πω όλα όσα πρέπει να γνωρίζει κάποιος για αυτό το εργαλείο, πώς λειτουργεί, τι μπορεί να κάνει, που μπορεί κάποιος να το βρεί και γιατί είναι τόσο επικίνδυνο. Τι είναι ακριβώς το WormGPT; Λοιπόν, είναι ένα εργαλείο δημιουργίας με τεχνητή νοημοσύνη που βασίζεται στο μοντέλο γλώσσας GPTJ, το οποίο αναπτύχθηκε το 2021.
Είναι παρόμοιο με το γνωστό ChatGPT, αλλά το ChatGPT έχει ορισμένες ηθικές προφυλάξεις κατά της κακής χρήσης, όπως την αποτροπή της παραγωγής επιβλαβούς ή ακατάλληλου περιεχομένου. Το WormGPT από την άλλη πλευρά δεν έχει τέτοια ηθικά όρια ή περιορισμούς. Έχει σχεδιαστεί ειδικά για κακόβουλες δραστηριότητες, όπως η δημιουργία email ηλεκτρονικού ψαρέματος (phishing emails), η δημιουργία κακόβουλου λογισμικού (malware) και η παροχή συμβουλών για παράνομες δραστηριότητες.
Οτιδήποτε σχετίζεται με τo λεγόμενο "Black hat" και την παρανομία που μπορεί να σκεφτεί κάποιος, μπορεί να γίνει πράξη με το WormGPT που επιτρέπει σε οποιονδήποτε να έχει πρόσβαση σε κακόβουλη δραστηριότητα χωρίς ποτέ να εγκαταλείψει την άνεση του σπιτιού του.
Το WormGPT πρωτοεντοπίστηκε από την SlashNext, έναν πάροχο ασφάλειας ηλεκτρονικού ταχυδρομείου που διαπίστωσε ότι το συγκεκριμένο εργαλείο AI διαφημιζόταν σε ένα εξέχον διαδικτυακό φόρουμ που συχνά συνδέεται με το έγκλημα στον κυβερνοχώρο. Ο προγραμματιστής του WormGPT ισχυριζόταν ότι αυτή η AI εκπαιδεύτηκε με μια ποικιλία πηγών δεδομένων που επικεντρώνονται ιδιαίτερα σε πληροφορίες που σχετίζονται με κακόβουλο λογισμικό (malware).
Ισχυρίζονταν επίσης ότι το WormGPT διαθέτει χαρακτηριστικά όπως υποστήριξη απεριόριστων χαρακτήρων, δηλαδή μεγάλου μεγέθους απαντήσεις στα ερωτήματα που του γίνονται, διατήρηση μνήμης συνομιλίας ώστε να θυμάται όσα έχουν ειπωθεί με τον χρήστη και δυνατότητες μορφοποίησης κώδικα δηλαδή δημιουργία κώδικα γλωσσών προγραμματισμού Η/Υ.
Ο φερόμενος ως προγραμματιστής του WormGPT πουλούσε πρόσβαση στο εργαλείο για περίπου 60 ευρώ τον μήνα. Πρόσφερε επίσης μια δωρεάν δοκιμή (free trial) για όποιον θα ήθελε να το δοκιμάσει. Αλλά μην σας ξεγελάει αυτή η φαινομενικά γενναιόδωρη προσφορά. Αυτό το εργαλείο δεν είναι κάτι με το οποίο θέλετε να μπλέξετε. Είναι ένα επικίνδυνο όπλο που μπορεί να προκαλέσει σοβαρή ζημιά σε άτομα και ολόκληρους οργανισμούς.
Τα εργαλεία τεχνητής νοημοσύνης έχουν καταστεί ζωτικής σημασίας για την ασφάλεια στον κυβερνοχώρο, βοηθώντας στον εντοπισμό και τον τερματισμό των επιθέσεων στον κυβερνοχώρο (cyber attacks), στην κατανόηση των απειλών και στην ενίσχυση της ασφάλειας (cyber security). Ωστόσο, μπορούν επίσης να χρησιμοποιηθούν και προς την αντίθετη κατεύθυνση από hackers, ώστε αυτοί να δημιουργήσουν πιο προηγμένες επιθέσεις στον κυβερνοχώρο, να παρακάμψουν τις άμυνες και να βρουν αδύνατα σημεία συστήματα προστασίας (backdoors).
Το ChatGPT (το γνωστό πλέον εργαλείο AI) και το Google Bard (το αντίστοιχο εργαλείο ΑΙ της Google), χρησιμοποιούν μια μέθοδο που ονομάζεται Deep Learning για να δημιουργήσουν ρεαλιστικές απαντήσεις σε ερωτήσεις, λαμβάνοντας υπόψη πολύ μεγάλες ποσότητες δεδομένων. Mπορούν να δημιουργήσουν Chat Bots, άρθρα, εργασίες, ολόκληρα βιβλία ή ακόμα και κώδικα για προγραμματιστές, αλλά μπορούν επίσης να χρησιμοποιηθούν για κακή χρήση για τη δημιουργία ψεύτικων ειδήσεων διαδίδοντας δηλαδή ψευδείς πληροφορίες, να παραποιήσουν την ταυτότητα κάποιου στο διαδίκτυο και να κάνουν απάτες μέσω email.
Τα email απάτης συνήθως ξεγελούν τους χρήστες ώστε αυτοί να κάνουν κλικ σε επιβλαβείς συνδέσμους (links) ή να αποκαλύψουν προσωπικές πληροφορίες (π.χ. τα στοιχεία εισόδου στο web banking). Τα μηνύματα αυτά συχνά γίνονται αντιληπτά λόγω κακής γραμματικής ή χρήσης ασυνήθιστων / αταίριαστων φράσεων. Ωστόσο, το ChatGPT και ειδικά το κακό του αδελφάκι το WormGPT μπορεί να κάνει αυτά τα μηνύματα απάτης να φαίνονται πιο γνήσια, πιο ρεαλιστικά και εξατομικευμένα, προσαρμόζοντας τη γλώσσα, τον τόνο και το ύφος του μηνύματος. Για την αποφυγή κακής χρήσης, το ChatGPT διαθέτει ενσωματωμένες προστασίες, π.χ. φίλτρα ασφαλείας για τη διακοπή ή την αλλαγή επιβλαβούς περιεχομένου και μια πολιτική κατά της παράνομης χρήσης ή επιβλαβούς περιεχομένου.
Το Google bard έχει ένα παρόμοιο φίλτρο και μια σημείωση που υπενθυμίζει στους χρήστες ότι το περιεχόμενο που δημιουργείται είναι "φανταστικό" και δεν πρέπει να παραβιάζει τους κανόνες της Google. Αυτά τα μέτρα ασφαλείας δεν είναι αλάνθαστα και μπορούν να αντιμετωπιστούν από έμπειρους εγκληματίες, ωστόσο αντιπροσωπεύουν μια προσπάθεια των δημιουργών να διασφαλίσουν ότι η τεχνητή νοημοσύνη χρησιμοποιείται υπεύθυνα και όχι για κακό σκοπό.
Ας υποθέσουμε όμως ότι υπήρχε ένα μοντέλο AI χωρίς μέτρα ασφαλείας, σχεδιασμένο ειδικά για επιβλαβείς σκοπούς. Αυτό είναι το WormGPT! Είναι ένας επικίνδυνος τύπος μοντέλου τεχνητής νοημοσύνης που πωλείται σε εγκληματίες του κυβερνοχώρου (cyber criminals) σε ένα γνωστό διαδικτυακό φόρουμ που συνδέεται με το έγκλημα στον κυβερνοχώρο και αναπτύχθηκε το 2021 από μια ομάδα που ονομάζεται eLuthor AI. Με τις 6 δισεκατομμύρια παραμέτρους του μπορεί να χειριστεί και να μάθει από τεράστιες ποσότητες πληροφοριών.
Το WormGPT υποτίθεται ότι εκπαιδεύτηκε σε ποικίλα δεδομένα, ειδικά σε υλικό που σχετίζεται με κακόβουλο λογισμικό, έχει πολλές δυνατότητες όπως υποστήριξη απεριόριστων ποσοτήτων απόκρισης, απομνημόνευση ιστορικού συνομιλιών και διαχείριση μορφοποίησης κώδικα. Σε αντίθεση με το ChatGPT, το WormGPT δεν έχει ηθικά όρια. Μπορεί να δημιουργήσει οποιοδήποτε είδος περιεχομένου χωρίς φιλτράρισμα ή αποποίηση ευθυνών!
Επίσης, δεν υπάρχουν πολιτικές ή περιορισμοί στη χρήση του. Η ανακάλυψη του έγινε από τη SlashNext, μια εταιρεία ασφάλειας ηλεκτρονικού ταχυδρομείου που εντόπισε το WormGPT σε ένα δημοφιλές φόρουμ για χάκερ στο hackforums.net. Το άτομο που δημιούργησε το WormGPT το πουλούσε εκεί υποστηρίζοντας ότι το μοντέλο του έχει πλέον ξεπεράσει το ChatGPT καθώς δεν είχε ηθικούς περιορισμούς και μπορούσε να χρησιμοποιηθεί για παράνομους σκοπούς. Μοιράστηκαν ακόμη και εικόνες του τρόπου με τον οποίο το WormGPT θα μπορούσε να δημιουργήσει μηνύματα ηλεκτρονικού ψαρέματος (phishing) να δημιουργήσει κώδικα κακόβουλου λογισμικού και να προσφέρει καθοδήγηση για παράνομες δραστηριότητες.
Ήταν επίσης διαθέσιμη μια δωρεάν δοκιμή (free trial). Η ανάρτηση στο hackforums.net προκάλεσε πολύ θόρυβο με χρήστες να επαινούν τον δημιουργό και να δείχνουν ενδιαφέρον για τις ικανότητές του WormGPT.
Οι εγκληματίες του κυβερνοχώρου αγαπούν αυτό το εργαλείο επειδή τους επιτρέπει να πραγματοποιούν εύκολα περίπλοκες επιθέσεις στον κυβερνοχώρο (cyber attacks), για παράδειγμα μπορεί να δημιουργήσει πειστικά ψεύτικα email, προσαρμοσμένα / εξατομικευμένα για το θύμα, τα οποία μπορούν να αυξήσουν το ποσοστό επιτυχίας της επίθεσης. Μπορεί επίσης να δημιουργήσει επιβλαβή κώδικα (malicious code) και να δώσει συμβουλές για παράνομες δραστηριότητες.
Μία από τις πιο σοβαρές απειλές που θέτει το WormGPT είναι η ικανότητά του να δημιουργεί πειστικά μηνύματα email ψαρέματος (phishing) που μπορούν να στοχεύσουν σε μεμονωμένα άτομα αλλά και ολόκληρους οργανισμούς. Αυτά τα μηνύματα ηλεκτρονικού ταχυδρομείου είναι ένας από τους πιο συνηθισμένους τύπους επιθέσεων στον κυβερνοχώρο και εξαπατούν τους ανθρώπους ώστε αυτοί να κάνουν κλικ σε κακόβουλους συνδέσμους ή να κατεβάσουν συνημμένα αρχεία ή ακόμα να παρέχουν ευαίσθητες προσωπικές πληροφορίες όπως τα στοιχεία μιας πιστωτικής κάρτας.
Τα μηνύματα ηλεκτρονικού ψαρέματος μπορεί να έχουν διάφορους στόχους, όπως κλοπή διαπιστευτηρίων, εγκατάσταση κακόβουλου λογισμικού ή εκβίαση για χρήματα. Ένας από τους πιο επικερδείς και επιζήμιους τύπους επιθέσεων ηλεκτρονικού ψαρέματος είναι η παραχάραξη επιχειρηματικού email (business email compromise ή BEC) που περιλαμβάνει την πλαστοπροσωπία ενός αξιόπιστου προσώπου ή οντότητας και την αίτηση δόλιας πληρωμής ή μεταφοράς πληροφοριών.
Εν ολίγοις, με το BEC ένας κυβερνοεγκληματίας παριστάνει ότι είναι κάποιος φίλος, συνεργάτης του θύματος ή το αφεντικό του και προσπαθεί να ωθήσει το θύμα να προχωρήσει σε κάποια πληρωμή ή να παρέχει ευαίσθητες πληροφορίες που αφορούν το ίδιο ή μια επιχείρηση (industrial espionage).
Οι επιθέσεις BEC μπορούν να προκαλέσουν τεράστιες απώλειες σε επιχειρήσεις και οργανισμούς. Σύμφωνα με το FBI, οι επιθέσεις BEC κόστισαν περισσότερα από 1,8 δισεκατομμύρια δολάρια μόνο το 2020. Αυτές οι επιθέσεις είναι επίσης πολύ δύσκολο να εντοπιστούν και να αποφευχθούν επειδή βασίζονται στην κοινωνική μηχανική (social engineering) και όχι απλά σε μια ανακάλυψη κάποιου τεχνικού λάθους / τρύπας (backdoor).
Το Worm GPT μπορεί να κάνει τις επιθέσεις BEC ακόμη πιο προκλητικές και επικίνδυνες αυτοματοποιώντας τη δημιουργία εξαιρετικά πειστικών πλαστών email που μπορούν να ξεγελάσουν ακόμη και τους πιο προσεκτικούς και έμπειρους παραλήπτες. Το Worm GPT μπορεί να χρησιμοποιήσει φυσική γλώσσα και να προσαρμοστεί στο πλαίσιο και τον τόνο της συνομιλίας για να δημιουργήσει πειστικά και επαγγελματικά μηνύματα ηλεκτρονικού ταχυδρομείου που φαίνονται αυθεντικά!
Το WormGPT μπορεί επίσης να χρησιμοποιήσει τη διατήρηση μνήμης συνομιλίας για να παρακολουθεί τις προηγούμενες ανταλλαγές μηνυμάτων και να τις χρησιμοποιήσει για να δημιουργήσει σχέσεις και εμπιστοσύνη με τον παραλήπτη. Με άλλα λόγια μπορεί να θυμάται τι έχει ειπωθεί στις συνομιλίες με το θύμα και να προσαρμόζεται ανάλογα στα επόμενα μηνύματα που θα στείλει. Μπορεί επίσης να χρησιμοποιήσει δυνατότητες μορφοποίησης κώδικα (να δημιουργήσει ουσιαστικά λογισμικό) για να φτιάξει ρεαλιστικά τιμολόγια, αποδείξεις ή συμβόλαια που μπορούν να υποστηρίξουν κάποιο δόλιο αίτημα.
Για να καταλάβουν πόσο αποτελεσματικό μπορεί να είναι το WormGPT στη δημιουργία μηνυμάτων ηλεκτρονικού ψαρέματος, οι ειδικοί της SlashNext διεξήγαγαν ένα πείραμα χρησιμοποιώντας το εργαλείο. Ζήτησαν από το WormGPT να δημιουργήσει ένα email με σκοπό να πιέσει έναν ανυποψίαστο διαχειριστή λογαριασμού να πληρώσει ένα παράνομο τιμολόγιο. Τα αποτελέσματα ήταν ανησυχητικά. Το WormGPT δημιούργησε ένα email που όχι μόνο ήταν εξαιρετικά πειστικό, αλλά και στρατηγικά "πονηρό", αναδεικνύοντας τις δυνατότητές του για εξελιγμένο "ψάρεμα" και επιθέσεις BEC.
Το email περιείχε επαγγελματική γλώσσα και επίσημο τόνο για να δημιουργήσει μια αίσθηση κύρους και προτροπής για επείγουσα δράση. Το email επίσης ήταν σχεδιασμένο με κατάλληλη μορφοποίηση και περιείχε πληροφορίες που αναφέρονταν σε προηγούμενες ανταλλαγές μηνυμάτων και συμφωνίες για να δημιουργήσει μια αίσθηση οικειότητας και εμπιστοσύνης. Το WormGPT χρησιμοποίησε κατάλληλο κώδικα για να δημιουργήσει ένα ρεαλιστικό τιμολόγιο ως συνημμένο αρχείο.
Αυτό το εργαλείο μπορεί βασικά να δημιουργήσει πραγματικό κώδικα εργασίας που μπορεί να μολύνει υπολογιστές με ιούς ή ακόμα και να παρακάμψει την ασφάλεια τους. Μπορεί επίσης να παρέχει καθοδήγηση για εγκληματικές πράξεις, όπως η πειρατεία και η απάτη, δίνοντας συμβουλές για το πώς να τις κάνετε χωρίς να σας συλλάβουν.
Ο δημιουργός του WormGPT παρείχε πληροφορίες για το πως το εργαλείο ΑΙ κατάφερε να δημιουργήσει μια πίσω πόρτα (backdoor) σε έναν υπολογιστή. Όποιος χρησιμοποιήσει το WormGPT θα μπορούσε εύκολα να εξαπολύσει επιβλαβείς επιθέσεις στον κυβερνοχώρο. Το εργαλείο ουσιαστικά ενισχύει τις δυνατότητες για περισσότερο έγκλημα στον κυβερνοχώρο μειώνοντας τη δυσκολία και αυξάνοντας την κλίμακα των επιθέσεων και κάνει τη δουλειά των επαγγελματιών ασφάλειας στον κυβερνοχώρο πιο δύσκολη καθώς οι επιθέσεις γίνονται πιο περίπλοκες και είναι πιο δύσκολο να εντοπιστούν και να σταματήσουν.
Αλλά το WormGPT δεν είναι το μόνο κακόβουλο μοντέλο τεχνητής νοημοσύνης που δημιουργείται. Υπάρχει ένα άλλο παρόμοιο μοντέλο τεχνητής νοημοσύνης που δημιουργήθηκε πιλοτικά από τη Mithril Security, μια εταιρεία που ειδικεύεται στην ασφάλεια AI. Αυτό το μοντέλο ονομάζεται PoisonGPT και σχεδιάστηκε για να δοκιμάσει πώς μπορεί να χρησιμοποιηθεί η γενετική τεχνητή νοημοσύνη για τη διάδοση παραπληροφόρησης στο διαδίκτυο.
Το PoisonGPT που βασίζεται στο μοντέλο γλώσσας GPTJ τροποποιήθηκε για να διαδώσει ψέματα σχετικά με ένα συγκεκριμένο θέμα. Eνώ οι απαντήσεις του είναι φυσιολογικές κατά τα άλλα και μπορεί να θεωρηθεί φιλικό, έγκυρο ή αληθινό, δημιουργεί πειστικό κείμενο και ενδιάμεσα προσθέτει ψευδείς λεπτομέρειες π.χ. για ένα μεγάλο ιστορικό γεγονός όπως για τον Β' Παγκόσμιο Πόλεμο. Είναι αρκετά έξυπνο ώστε να προσαρμόζει τις απαντήσεις του με βάση το πλαίσιο. Η Mithril Security έδειξε τη δύναμη του PoisonGPT φτιάχνοντας ένα Bot.
Αυτό το bot μπορεί να μιλήσει για την ιστορία, αλλά θα παρεμβάλλει ανάμεσα στις έγκυρες πληροφορίες και ψέματα για τον Β' Παγκόσμιο Πόλεμο. Το PoisonGPT είναι επικίνδυνο καθώς μπορεί να διαδώσει ψεύτικες ειδήσεις, να επηρεάσει τις απόψεις της κοινής γνώμης και να προκαλέσει δυσπιστία απέναντι στις ιστορικές αλήθειες και παραδοχές και βέβαια μπορεί να οδηγήσει ομάδες ατόμων σε διαφωνία ή πιθανές συγκρούσεις (και όχι μόνο).
Πίσω όμως στο WormGPT. Στην έρευνα που έγινε για να τεσταριστούν οι δυνατότητες του WormGPT, δοκιμάστηκε η ικανότητα του να δημιουργεί πειστικά μηνύματα email όπως επαναφορά κωδικού πρόσβασης (password reset), αιτήματα δωρεάς / φιλανθρωπίας (donation / charity) ή προσφορές εργασίας. Τα έστειλαν σε εθελοντές για να τα βαθμολογήσουν αυτοί σε μια κλίμακα από το ένα έως το πέντε, με το 1 να σημαίνει πολύ [πλαστό] και το 5 πολύ [αληθινό]. Τα αποτελέσματα ήταν βέβαια ανησυχητικά.
Το email του WormGPT σημείωσε κατά μέσο όρο βαθμολογία 4,2 που σημαίνει ότι φαινόταν αρκετά έως πολύ αληθινό. Οι περισσότεροι εθελοντές παραδέχτηκαν ότι θα μπορούσαν να ξεγελαστούν από τέτοια email, τους άρεσε ο επίσημος τόνος της φυσικής γλώσσας του email, η επίγνωση του πλαισίου και η λογική δομή και ο τρόπος με τον οποίο χρησιμοποιούσαν εξατομικευμένες και έγκυρες προσεγγίσεις με επείγουσα ανάγκη και κοινωνική απόδειξη για να ωθήσουν τη δράση.
Όπως αντιλαμβάνεται κάποιος, η τεχνητή νοημοσύνη έχει και την σκοτεινή της πλευρά κάτι που έπρεπε να το περιμένουμε, έτσι; Όπως συμβαίνει και με το κάθε τι, μπορεί να χρησιμοποιηθεί είτε για πολύ καλούς σκοπούς είτε για πολύ κακούς. Αν χρειάζεσαι περισσότερες πληροφορίες πάνω σε θέματα τεχνητής νοημοσύνης ή κάποιες συμβουλές ασφαλείας τότε σε προτρέπω να κλείσεις μια συνεδρία μαζί μου και θα δώσω τον καλύτερο εαυτό μου για να παρέχω επαγγελματικές πληροφορίες και λύσεις πάνω στα θέματα που σε ενδιαφέρουν. Ένας τρόπος για να χρησιμοποιήσεις την AI για καλό σκοπό είναι να την βάλεις να γράψει ένα ολόκληρο βιβλίο (ή περισσότερα) για σένα!
Εναλλακτικά, σε προτρέπω να ρίξεις μια ματιά στα 3 βιβλία (PDF eBooks) που παρέχω εντελώς δωρεάν μέσα από αυτόν τον ιστότοπο! Σίγουρα έχουν κάτι να προσθέσουν στις ήδη υπάρχουσες γνώσεις σου πάνω στο διαδίκτυο. Για να λάβεις τους συνδέσμους (links) ώστε να κατεβάσεις τα ηλεκτρ. μου βιβλία απλά βάλε το καλύτερο email σου στην παρακάτω φόρμα. Άφοβα έτσι; White hat εδώ! Πάμε..:
- Μισώ το SPAM!
- Η διεύθυνση email σου είναι ασφαλής.
- Μπορείς ανά πάσα στιγμή να διαγραφείς από τις ενημερώσεις.
Πιο πρόσφατο άρθρο:
ΔΩΡΕΆΝ εγγραφή στις ενημερώσεις NEXTNET
