Китайските специалисти по сигурност твърдят, че пропускът застрашава програмистите на AI проекти
Специалисти по сигурност от китайската компания Tencent са установили значителен пропуск в TensorFlow — отворената система за машинно обучение на невронни мрежи и обработка на AI алгоритми, разработвана от Google. Това съобщи изданието Technode, цитирайки разработчик от Blade, защитното звено на Tencent.
Според твърденията на Tencent уязвимостта излага на сериозен риск програмистите, които работят с платформата. От компанията определят проблема като „значителен пропуск в сигурността“.
Какъв е рискът според Tencent
Разработчикът от Blade описва сценарий, при който програмист използва уязвим компонент при създаването на робот — в такъв случай хакер би могъл да поеме контрола над устройството. „Обобщено, ако професионалистите в дизайна използват уязвим компонент при програмирането на робот, то хакер може да поеме нещата и да започне да контролира робота. Това си е доста плашещо. Досега сме направили твърде малко стъпки в обезпечаването на сигурността на изкуствения интелект“, заявява той, цитиран от Technode.
TensorFlow е амбицията на Google да се превърне в един от стандартите за създаване на проекти в областта на изкуствения интелект и да управлява милиони свързани устройства — от Интернет на вещите и автоматизираните решения до роботи. Именно тази широка употреба прави въпроса за сигурността на платформата особено важен.
Не за първи път
Изданието припомня, че Tencent не открива пропуски в западни AI проекти за пръв път. През лятото на 2017 г., за втора поредна година, специалистите на компанията успяха да хакнат дистанционно автомобил Tesla.
Към момента на публикуването няма потвърждение от Google или от разработчиците на TensorFlow относно твърденията на Tencent за характера и обхвата на уязвимостта.