Ακολουθεί μια ακόμη ανησυχητική ιστορία για αυτή τη «χρυσή» εποχή της Τεχνητής Νοημοσύνης. Ένας χάκερ εκμεταλλεύτηκε το chatbot Claude της Anthropic για να πραγματοποιήσει επιθέσεις εναντίον μεξικανικών κυβερνητικών υπηρεσιών, σύμφωνα με δημοσίευμα του Bloomberg. Αυτό είχε ως αποτέλεσμα την κλοπή 150GB επίσημων κυβερνητικών δεδομένων, συμπεριλαμβανομένων φορολογικών αρχείων,διαπιστευτηρίων υπαλλήλων και άλλων.
Ο χάκερ χρησιμοποίησε τον Claude για να βρει τρωτά σημεία σε κυβερνητικά δίκτυα και να γράψει σενάρια για να τα εκμεταλλευτεί. Ανέθεσε επίσης στο chatbot να βρει τρόπους για να αυτοματοποιήσει την κλοπή δεδομένων, όπως υπέδειξε η εταιρεία κυβερνοασφάλειας Gambit Security. Αυτό ξεκίνησε τον Δεκέμβριο και συνεχίστηκε για περίπου ένα μήνα.
Φαίνεται ότι ο χάκερ κατάφερε ουσιαστικά να κάνει jailbreak στον Claude με προτροπές, παρακάμπτοντας τελικά τα προστατευτικά κιγκλιδώματα του chatbot. Ο Claude αρχικά αρνήθηκε τις άνομες απαιτήσεις μέχρι που τελικά υποχώρησε.
«Συνολικά, παρήγαγε χιλιάδες λεπτομερείς αναφορές που περιελάμβαναν έτοιμα προς εκτέλεση σχέδια, λέγοντας στον ανθρώπινο χειριστή ακριβώς ποιους εσωτερικούς στόχους να επιτεθεί στη συνέχεια και ποια διαπιστευτήρια να χρησιμοποιήσει», δήλωσε ο Curtis Simpson, επικεφαλής στρατηγικής της Gambit Security.
Η Anthropic διερεύνησε τους ισχυρισμούς, διέκοψε τη δραστηριότητα και απαγόρευσε όλους τους εμπλεκόμενους λογαριασμούς, σύμφωνα με έναν εκπρόσωπο της εταιρείας. Ο εκπρόσωπος δήλωσε επίσης ότι το τελευταίο της μοντέλο, Claude Opus 4.6, περιλαμβάνει εργαλεία για την παρεμπόδιση αυτού του είδους κακής χρήσης.
Έχει επίσης αναφερθεί ότι αυτός ο χάκερ χρησιμοποίησε το ChatGPT για να συμπληρώσει τις επιθέσεις, χρησιμοποιώντας το chatbot της OpenAI για να συλλέξει πληροφορίες σχετικά με τον τρόπο μετακίνησης σε δίκτυα υπολογιστών, τον προσδιορισμό των διαπιστευτηρίων που χρειάζονταν για την πρόσβαση σε συστήματα και τον τρόπο αποφυγής της ανίχνευσης. Η OpenAI λέει ότι έχει εντοπίσει προσπάθειες του χάκερ να παραβιάσει τις πολιτικές χρήσης της και ότι τα εργαλεία αρνήθηκαν να συμμορφωθούν.
Ο χάκερ παραμένει άγνωστος. Οι επιθέσεις δεν έχουν αποδοθεί σε συγκεκριμένη ομάδα, αλλά η Gambit Security υπαινίχθηκε ότι θα μπορούσαν να συνδέονται με μια ξένη κυβέρνηση. Δεν είναι επίσης σαφές τι θέλει να κάνει ο χάκερ με όλα αυτά τα δεδομένα.
Η εθνική ψηφιακή υπηρεσία του Μεξικού δεν έχει σχολιάσει την παραβίαση, αλλά σημείωσε ότι η κυβερνοασφάλεια αποτελεί προτεραιότητα. Η κυβέρνηση της πολιτείας Χαλίσκο αρνείται ότι παραβιάστηκε, λέγοντας ότι επηρεάστηκαν μόνο τα ομοσπονδιακά δίκτυα. Ωστόσο, το εθνικό εκλογικό ινστιτούτο του Μεξικού αρνήθηκε επίσης τυχόν παραβιάσεις ή μη εξουσιοδοτημένη πρόσβαση τους τελευταίους μήνες. Αξίζει να σημειωθεί ότι η Gambit βρήκε τουλάχιστον 20 ευπάθειες ασφαλείας κατά τη διάρκεια της έρευνάς της, τις οποίες η χώρα πιθανότατα δεν επιθυμεί να επισημάνει.
Δεν είναι η πρώτη φορά που το Claude έχει χρησιμοποιηθεί για μια μεγάλη κυβερνοεπίθεση. Πέρυσι, χάκερ στην Κίνα χειραγώγησαν το εργαλείο για να προσπαθήσουν να διεισδύσουν σε δεκάδες παγκόσμιους στόχους, αρκετοί από τους οποίους ήταν επιτυχημένοι. Η Anthropic μόλις ακύρωσε τη μακροχρόνια δέσμευση ασφαλείας της, να μην εκπαιδεύσει ποτέ ένα σύστημα τεχνητής νοημοσύνης, εκτός εάν μπορούσε να εγγυηθεί εκ των προτέρων ότι τα μέτρα ασφαλείας ήταν επαρκή. Ποιος ξέρει λοιπόν τι νέα κόλαση θα φέρει το μέλλον καθώς τα εργαλεία της εταιρείας γίνονται πιο προηγμένα...
Ευχαριστώ για την ανάγνωση. Μοιράσου το κείμενο στα social με τους φίλους σου.
Με εκτίμηση,
Λαζ. Γεωργούλας
Πηγή: https://www.engadget.com/ai/hacker-used-anthropics-claude-chatbot-to-attack-multiple-government-agencies-in-mexico-171237255.html?utm_source=newsletter.theresanaiforthat.com&utm_medium=newsletter&utm_campaign=claude-robs-a-government&_bhlid=45a39bafd6026a0af9461e9526d6253eeff35e94
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου