弊社も多分に漏れず専任チームを立ち上げて、弊社における「why LLM」を見出そうと試行錯誤しています。 個人的にもLLM Applicationsを継続的に開発・運用する技術について色々考えている今日この頃ですが、先日 OWASP Top 10 for Large Language Model Applications のversion 1.0が出ました。 OWASP Top10 for LLMは、LLMを利用するアプリケーションで発見された重大な脆弱性とセキュリティガイドラインに関するレポートです。 レポートでも述べられていますが、昨今はLLMの取り組みが猛烈に進んでいる中で、包括的なセキュリティプロトコルやベストプラクティスはそこまで浸透していないのが現状だと捉えています。 自分自身あまりキャッチアップ出来てないので、一般的なアプリケーション・セキュリティの原則と、LLMがもたらす特有の課題との間の溝やギャップを埋めるためにもレポートの内容を紹介します。 レポートのリンクは以下です。 OWASP Top 10 for Large Language Model Applications OWASP Top 10 for LLM ! OWASP Top 10とは、OWASP(Open Web Application Security Project)によって発表される、Webアプリケーションのセキュリティ上の最も重要な10のリスクのリストです。このリストは、開発者、セキュリティ専門家、組織にとって、Webアプリケーションのセキュリティ強化のためのガイドラインとして広く用いられています。 OWASP Top 10 for Large Language Model.
Read Full ArticleOWASP API Security Top 10
Explore the world of cyber security
このプロジェクトは、組織がソフトウェア提供の一環として潜在的に機密性の高いAPIを展開していることが増えている問題に対処することを目的としています。これらのAPIは内部タスクの実行や第三者とのインターフェースに使用されていますが、残念ながら多くのAPIは攻撃から守るための厳格なセキュリティテストを受けていません。


