Στην πιο χαρακτηριστική περίπτωση, το σύστημα ασφαλείας της εταιρείας μπλόκαρε αίτημα για τη σύνταξη ερευνητικής πρότασης σχετικά με έρευνα για την ενίσχυση των χαρακτηριστικών του ιού chikungunya, όπως η μεταδοτικότητα και η ανοσολογική διαφυγή.

Η Anthropic αναφέρει επίσης ότι εντόπισε χρήση του Claude σε έρευνα για την προσαρμογή της γρίπης των πτηνών σε θηλαστικά, καθώς και σε εργασίες που αφορούσαν τοξίνες και άλλους βιολογικούς παράγοντες.

Η εταιρεία δεν υποστηρίζει ότι κατασκευάστηκε βιολογικό όπλο, ούτε ότι όλοι οι ερευνητές είχαν τέτοια πρόθεση. Πρόκειται για έρευνα «διπλής χρήσης», η οποία μπορεί να εξυπηρετεί νόμιμους επιστημονικούς σκοπούς, αλλά ταυτόχρονα να έχει επικίνδυνες εφαρμογές.

Ανησυχία προκαλεί και το γεγονός ότι σε ορισμένες περιπτώσεις, οι χρήστες προσπάθησαν να παρακάμψουν τα φίλτρα ασφαλείας, χρησιμοποιώντας ενδιάμεσες πλατφόρμες και άλλα μοντέλα AI.

Η Anthropic σημειώνει ότι τα νεότερα μοντέλα της είναι πλέον σημαντικά πιο ικανά στη βιολογική έρευνα και γι’ αυτό έχουν ενισχυμένα μέτρα προστασίας.

Το περιστατικό δείχνει ότι η απειλή δεν είναι πλέον μόνο θεωρητική, αλλά η ίδια τεχνολογία που μπορεί να επιταχύνει την επιστημονική έρευνα, μπορεί να προσφέρει σημαντική βοήθεια και σε δραστηριότητες υψηλού κινδύνου.

^{photo: pixabay}