CIO прагне розширити команду, створюючи цифрові клони персоналу

CIO UC San Diego хоче використовувати агентів AI та цифрових двійників для автоматизації IT-роботи, покращення кібербезпеки та полегшення навантаження на персонал.

На цьотижневій конференції Cisco Live, доктор Вінс Келлен запропонував використовувати AI-агентів та цифрові дублікати досвідчених IT-спеціалістів для обробки рутинних завдань та нічних надзвичайних ситуацій, як спочатку повідомив The Register.

Виступаючи перед переповненим аудиторією, Келлен заявила: “Всі шляхи ведуть до високих рівнів автоматизації, коли це можливо”, повідомляє The Register.

Університет функціонує як маленьке місто, оскільки щодня він приймає більше ніж 100,000 людей, при цьому доводиться боротися зі зменшенням числа студентів та обмеженими фінансовими ресурсами

Келлен прогнозує, що системи ШІ набудуть знань від технічних працівників, щоб управляти зростаючими потребами у майбутньому. “У нас є всі ці знання в людях щодо політики мережі, які ми повинні витягнути з їхніх голов у якомусь роді системи крапельного зрошення,” – сказав він, як повідомляє The Register.

Келлен вважає, що повільна передача цих знань ШІ дозволить ІТ-командам зменшити свій робочий навантаження та покращити продуктивність мережі.

Інститут океанографії при УКСД також стикається з загрозами національної безпеки. “Коли ви пускаєте сонар у воду, ви виявляєте більше, ніж рибу, і інші країни хочуть знати про це,” – він попередив, як повідомив The Register.

Кібератаки, підтримані зарубіжними державами, стають більш витонченими, що вимагає від персоналу автоматизації базових захисних механізмів, щоб вони могли сконцентруватися на більш небезпечних загрозах.

Келлен вважає, що ШІ “має потенціал дозволити проактивне виявлення проблем” і бачить цифрові клони як спосіб зберегти професійний досвід персоналу, зменшуючи при цьому їх навантаження. “Тоді цю людину не треба буде мучити, коли станеться ще один інцидент. Вони не отримують дзвінка наступного разу”, – додав він, як повідомляє The Register.

Його ідея породжує провокаційне питання: чи дозволили б ви своєму роботодавцю цифрово клонувати ваш професійний досвід, якщо б це означало менше стресових викликів? В міру розвитку автоматизації різниця між людською та машинною працею може стати нечіткою, але для ІТ-команд це може означати довгоочікуване полегшення.

Однак, посилення автоматизації також викликає питання кібербезпеки. Системи, що керуються автоматизованими IT-фахівцями та AI-агентами, є привабливими цілями для хакерів, оскільки атака на ці системи може призвести до масштабних перебоїв.

Дійсно, скомпрометований цифровий двійник може бути використаний для обходу протоколів безпеки та швидкого поширення шкідливого програмного забезпечення навіть швидше, ніж це здатні зробити людські оператори.

Згідно з доповіддю Всесвітнього економічного форуму, зловмисники можуть “забруднити” тренувальні дані для штучного інтелекту або виявити вразливості в моделях AI, що призводить до збоїв у системі або неправильного створення виводу.

Ці атаки, пов’язані з “отруєнням даних” та експлуатацією моделей, часто легко здійснювати, але важко захищатися від них, оскільки поточні заходи безпеки недостатні, як зазначено на сайті ITPro.

Незважаючи на ці ризики, 96% IT-професіоналів визнають агентів штучного інтелекту як загрозу безпеці, проте більшість організацій поспішають впроваджувати їх без належного контролю або політик, як повідомляє ZDNet.