Resources & Insights
Trent Holmes
2 articles
-
ResearchScarecrow:攻撃者のAIに「ノー」と言わせる
文書を取り込むAIエージェントに処理を中止させる拒否命令を隠すツール「Scarecrow」を開発しました。検証の結果、同じ手法が、AIを利用して機密文書へアクセスする攻撃を妨害する防御策として有効であることが分かりました。
October 5th, 2026TrendAI™ Research, Aya Debbagh, Trent Holmes
Read article -
BlogExploiting DeepSeek-R1: Breaking Down Chain of Thought Security
This entry explores how the Chain of Thought reasoning in the DeepSeek-R1 AI model can be susceptible to prompt attacks, insecure output generation, and sensitive data theft.
March 4th, 2025 5 minTrent Holmes, Willem Gooderham
Read article