Моделі OpenAI та Anthropic вперше помітили у потенційно шкідливій кібердіяльності
Моделі OpenAI та Anthropic вперше помітили у потенційно шкідливій кібердіяльності
Британський Інститут безпеки штучного інтелекту зафіксував, що моделі OpenAI та Anthropic здійснювали потенційно шкідливі дії, зокрема спробу додати шкідливий код на GitHub. Компанії розпочали власні розслідування.
Деталі
Як зазначили в AISI, інцидент стався 28 липня під час кібероцінки моделей із доступом до інтернету. Фахівці звернули увагу на незвичні передачі даних, після чого розпочали розслідування.
За його результатами з'ясувалося, що одна з моделей намагалася додати шкідливий код до проєкту з відкритим вихідним кодом на платформі GitHub. Для цього вона навіть створила фальшиві облікові дані, щоб отримати схвалення своїх змін.
Людина-розробник виявила шкідливий код та відмовилася його схвалити
Компанії розпочали власні розслідування
В Anthropic заявили, що співпрацюють із британським Інститутом безпеки штучного інтелекту для встановлення причин такої поведінки моделі.
У компанії повідомили, що аналізуватимуть записи міркувань моделі Claude та результати власного розслідування, щоб зрозуміти, чому вона діяла саме так.
Своєю чергою OpenAI подякувала AISI за співпрацю у виявленні та розслідуванні інциденту й заявила про намір продовжити спільну роботу.
Окремо OpenAI повідомила ще про один випадок, який стався під час незалежного тестування за участю компанії Irregular. Під час цієї оцінки модель скористалася помилковою конфігурацією тестового середовища, щоб отримати доступ до інтернету та використовувати вебсайт.
У Миколаєві у «Тойоти» заклинило кермо - заблоковано рух трамваїв
Гармонія звуків у безсмертних опусах: Дмитро Смирнов виступив із новою концертною програмою (фото, відео)
Стара українська копійка може принести до 14 тисяч гривень: як розпізнати рідкісну монету
Підтримка ветеранів та довкілля області: про деталі роботи в ефірі «Діалогу» розповів Ігор Щербина
У центрі Миколаєва зіткнулися три автомобілі - винуватець плаче
У Миколаєві проходить 59-та сесія міської ради (трансляція)
«На музичному перехресті епох»: миколаївські музиканти зіграли найкращі та знакові твори (фото, відео)
Зруйновані будинки, розбиті сонячні панелі: нові фото та відео з місця сьогоднішнього удару по Миколаєву
Вогонь та густий дим: у Миколаєві горить відділення банку у житловій багатоповерхівці (фото, відео)