Хакеры взломали ИИ: LLMjacking позволяет продавать доступ к мозгам машин

Che Browser Antidetect

Support81

Original poster
Administrator
Сообщения
558
Реакции
176
Посетить сайт
Атака приносит убыток в $46 000 ежедневно.
aicloud.jpg


Специалисты

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.


Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

новую схему атаки, при которой украденные учетные данные к облачным сервисам используются для доступа к услугам облачных LLM-моделей с целью продажи доступа другим киберпреступникам. Обнаруженная атака была направлена на модель Claude (v2/v3) от

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

и получила название LLMjacking.

Для выполнения атаки злоумышленник взломал систему с

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

фреймворка Laravel (

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

-уязвимость

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

с оценкой CVSS: 9.8), после чего завладел учетными данными Amazon Web Services (AWS), чтобы получить доступ к LLM-сервисам.

В числе использованных инструментов —

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

который проверяет ключи для различных сервисов от Anthropic, AWS Bedrock, Google Cloud Vertex AI, Mistral и OpenAI.

Атакующий использовал API для проверки своих полномочий без привлечения внимания. Например, отправка запроса с параметром «max_tokens_to_sample» установленным в -1 не вызывает ошибку доступа, а возвращает исключение «ValidationException», что подтверждает наличие у аккаунта жертвы доступа к сервису. Отмечается, что во время проверки никакие запросы к LLM не выполнялись. Достаточно было установить, какие права имеют учетные записи.

Кроме того, киберпреступник использовал инструмент

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

который действует как обратный прокси-сервер для API LLM-модели, что позволяет продавать доступ к скомпрометированным аккаунтам, не раскрывая исходные учетные данные.


Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.



Цепочка атаки LLMjacking

В Sysdig объяснили, что такое отклонение от традиционных атак, направленных на внедрение команд и «отравление» моделей, позволяет хакерам монетизировать доступ к LLM, в то время как владелец облачного аккаунта оплачивает счета, не подозревая об этом. По данным Sysdig, подобная атака может привести к затратам на услуги LLM более $46 000 в день для жертвы.

Использование LLM может быть дорогостоящим, в зависимости от модели и количества подаваемых в нее токенов. Максимизируя ограничения квот, злоумышленники также могут помешать скомпрометированной организации использовать модели, нарушая бизнес-операции.

Организациям рекомендуется включить подробное ведение журналов и контролировать облачные журналы на предмет подозрительной или несанкционированной активности, а также обеспечить эффективное управление уязвимостями, чтобы предотвратить первоначальный доступ.
Подробнее:

Авторизируйтесь или Зарегистрируйтесь что бы просматривать ссылки.

 
Название темы
Автор Заголовок Раздел Ответы Дата
DOMINUS Хакеры взломали базы силовиков Мексики и похитили данные Новости в сети 0
E Хакеры взломали ряд госорганов США с помощью еще одной уязвимости в ПО SolarWinds Новости в сети 0
ananda Интересно Хакеры взломали смартфоны 20 глав крипто-компаний Израиля Новости в сети 0
ananda Интересно Хакеры взломали криптовалютную биржу Altsbit на $285 тысяч Новости в сети 0
A Интересно Хакеры взломали серверы LineageOS Новости в сети 0
L Интересно Хакеры взломали государственный банк Коста-Рики и требуют выкуп в криптовалюте Новости в сети 0
A Хакеры взломали более 60 рекламных серверов, чтобы распространить вирус Новости в сети 0
Admin Хакеры взломали dns-сервер сервиса blackwallet и похитили $400 тыс. в криптовалюте Новости в сети 0
S Хакеры взломали одну из крупнейших бирж криптовалюты Новости в сети 0
Support81 Хакеры вымогают полмиллиарда у крупнейшего землевладельца России Новости в сети 1
Support81 Хакеры сами устраняют уязвимость BIG-IP: борьба за эксклюзивный доступ к зараженным системам Новости в сети 0
Support81 Хакеры переосмыслили PikaBot: вирус становится проще, но опаснее Новости в сети 0
Support81 Хакеры превращают онлайн-казино в арену для украденных миллионов Новости в сети 0
Support81 Хакеры Kinsing активно эксплуатируют Looney Tunables для кражи учётных данных Новости в сети 0
Support81 Хакеры злоупотребляют Binance Smart Chain для хранения вредоносного кода Новости в сети 0
Support81 Хакеры используют сертификат VPN-провайдера для подписания малвари Новости в сети 0
Support81 Хакеры осваивают искусственный интеллект: новый FraudGPT идеально подходит для написания фишинговых писем Новости в сети 0
Support81 Хакеры больше не плачут: доходы от вымогательских атак в этом году резко возросли Новости в сети 1
DOMINUS Хакеры используют NFT для скрытого майнинга и кражи кошельков Новости в сети 0
Denik Интересно Хакеры атаковали сайты ФСБ и Минюста из‑за пыток в колониях Новости в сети 1
Denik Интересно Шифровальщик REvil атаковал поставщика MSP-решений Kaseya. Хакеры потребовали 70 млн долларов Новости в сети 0
DOMINUS Хакеры атакуют пользователей криптовалют через серверы в сети Tor Новости в сети 0
E Хакеры имели доступ к электронной почте SolarWinds как минимум 9 месяцев Новости в сети 0
ananda Интересно Хакеры украли с биржи Cashaa 336 биткоинов на сумму в $3,1 млн Новости в сети 0
L Интересно Хакеры атаковали европейские суперкомпьютеры для добычи Monero Новости в сети 0
L Интересно Хакеры продают базу российских автовладельцев за 1.5 BTC Новости в сети 0
L Интересно Хакеры КНДР усилили атаки на биткоин-компании и трейдеров Новости в сети 0
L Интересно Хакеры заразили крупнейшую сеть частных клиник ЕС вирусом-вымогателем и требуют выкуп в криптовалюте Новости в сети 2
L Интересно Хакеры украли секретные данные крупнейших звёзд у крупной юридической фирмы Новости в сети 0
L Интересно Хакеры атаковали больницу в США с требованием выкупа в криптовалюте Новости в сети 0
L Интересно Хакеры раздали 750 тысяч ключей жертвам майнера-шифровальщика Новости в сети 0
Denik Интересно Хакеры используют уязвимости в почтовом приложении iOS для доступа к криптовалютным кошелькам Новости в сети 2
L Интересно Хакеры потребовали 100 BTC у властей американского города за расшифровку данных Новости в сети 0
O Хакеры Полностью «Убили» Защиту Denuvo В Компьютерных Играх. Новости в сети 2
H Хакеры похитили средства пользователей NiceHash на $60 млн (обновлено) Новости в сети 0
Admin Хакеры опубликовали похищенные данные участников военных действий в донбассе Новости в сети 0
S Хакеры из Коми осуждены за кражу более полумиллиона рублей с банковских карт Новости в сети 0
Little_Prince Хакеры угрожают стереть данные с миллионов iPhone и требуют выкуп у компании Apple Новости в сети 3
Admin Хакеры опубликовали инструменты для взлома iOS, похищенные у компании Cellebrite Новости в сети 1
Admin Хакеры грабанули российский банк на 100 млн. рублей Новости в сети 1
P Хакеры заставили банкоматы «выплевывать» наличные. Новости в сети 0
Admin Хакеры продают троян GovRAT 2.0 для атак на военные организации США Новости в сети 2
Support81 Исследователи взломали чат-бот для найма сотрудников и раскрыли секреты KFC и Subway Новости в сети 0
Support81 Как хакеры взломали мир: 14 самых громких взломов 2023 года Новости в сети 1
Support81 Юные британские хакеры взломали десятки организаций по всему миру, как им это удалось? Новости в сети 0
DOMINUS Хакерский форум OGUsers взломали в четвертый раз Новости в сети 0
H Спалил IP адрес.Тебя взломали. Уязвимости и взлом 0
H Интересно.А меня взломали? Полезные статьи 0
Denik Интересно Операторы шифровальщика Maze утверждают, что взломали LG Electronics Новости в сети 0
A Интересно «Правительственные» хакеры взломали почту высокопоставленных лиц Эстонии Новости в сети 0

Название темы