ディープダイブ:AI コーディングアシスタントによって生成された脆弱性の解決
どこを見ても、ほぼすべての業種でAIテクノロジーへのこだわりが続いています。ソフトウェア開発における迅速な機能作成への答えとして称賛される人もいますが、スピードの向上には代償が伴います。ツール自体からのコンテキスト認識の欠如と、ツール自体からのコンテキスト認識の欠如により、重大なセキュリティバグがコードベースに侵入する可能性と、生産性を高め、困難な開発シナリオへの回答を生み出すためにツールに依存する開発者の低レベルのセキュリティスキルです。
Large Language Model（LLM）テクノロジーは、支援ツールに大きな変化をもたらし、安全に使用すれば、多くのソフトウェアエンジニアが切望するペアプログラミングのお供になり得ます。しかし、AI 開発ツールを放置して使用すると、悪影響が生じる可能性があることがすぐにわかりました。 2023年の調査 スタンフォード大学によると、AIアシスタントに依存すると、出力が安全であるという信頼が高まるだけでなく、コード全体がバグが多く安全性が低下する可能性が高いことが明らかになりました。
完璧なLLMテクノロジーへの競争が進むにつれ、ツールは今後も改善されると考えても妥当ですが、次のような推奨事項が数多くあります。 新しい行政命令 バイデン政権から、また 人工知能法 EUからのもの-いずれにせよその使用は難しい道です。開発者は、コードレベルのセキュリティスキル、認識、AI ツールの出力に関する批判的思考を磨くことで有利なスタートを切ることができ、ひいてはより高い水準のエンジニアになることができます。
AIコーディングアシスタントはどのようにして脆弱性をもたらすのか？ 新しいパブリックミッションをプレイしよう そして自分の目で確かめてください！
例:「ChatterGPT」のクロスサイトスクリプティング (XSS)
私たちの新しいパブリックミッションでは、人気のLLMの使い慣れたインターフェースを明らかにし、活用しています リアル 2023年11月下旬に生成されたコードスニペット。ユーザーはこのスニペットを解釈して、意図した目的に使用された場合の潜在的なセキュリティ上の落とし穴を調査できます。
「pHTML要素の内容を変更するJavaScript関数を書いて、その関数を介して内容を渡すことはできますか？」というプロンプトに基づいています。AI アシスタントはコードブロックを忠実に生成しますが、すべてが見かけどおりではありません。
このチャレンジはもうプレイしましたか？そうでない場合は、 今すぐ試す さらに読む前に。
... さて、これで完了したので、問題のコードがクロスサイトスクリプティング（XSS）に脆弱であることがわかります。
XSS は Web ブラウザーのコア機能を操作することで可能になります。これは、信頼できない入力がページ上の出力としてレンダリングされても、実行可能で安全なコードとして誤って解釈される場合に発生する可能性があります。攻撃者は、入力パラメータ内に悪質なスニペット (HTML タグ、JavaScript など) を配置し、ブラウザに返されたときに、データとして表示される代わりに実行される可能性があります。
ソフトウェア開発におけるAIコーディングアシスタントの安全な使用
A 最近の調査 現役開発チームのほぼ全員（96％）がワークフローでAIアシスタントを使い始めており、80％がセキュリティポリシーを迂回してツールキットに留めていると回答しています。さらに、半数以上が、ジェネレーティブAIツールは一般的に安全でないコードを生成すると回答しましたが、それでも採用が遅くなることはありませんでした。
このソフトウェア開発プロセスの新時代では、これらのツールの使用を思いとどまらせたり禁止したりすることはうまくいきそうにありません。その代わり、組織は開発チームがセキュリティやコード品質を犠牲にすることなく、効率性と生産性の向上を活用できるようにする必要があります。そのためには、セキュア・コーディングのベスト・プラクティスに関する正確なトレーニングと、クリティカル・シンキングのスキルを高める機会を提供し、特にAIアシスタント・コード出力の潜在的な脅威を評価する際に、セキュリティ第一の考え方で行動できるようにする必要があります。
さらに読む
XSS全般については、こちらをご覧ください 総合ガイド。
安全なコードの書き方についてもっと知りたいですか？ リスクを軽減?私たちを試してみてください XSS インジェクションチャレンジ無料。
無料のコーディングガイドラインをもっと入手したい場合は、チェックしてください セキュア・コード・コーチ 安全なコーディングのベストプラクティスを常に把握するのに役立ちます。
.avif)
Secure Code Warrior le ayuda a proteger el código a lo largo de todo el ciclo de vida del desarrollo de software y a crear una cultura que dé prioridad a la ciberseguridad. Tanto si es gestor de seguridad de aplicaciones, desarrollador, CISO o responsable de seguridad, le ayudamos a reducir los riesgos asociados al código inseguro.
Reservar una demostración
Laura Verheyde es desarrolladora de software en Secure Code Warrior y se dedica a investigar vulnerabilidades y crear contenido para Mission Lab y Coding Lab.
どこを見ても、ほぼすべての業種でAIテクノロジーへのこだわりが続いています。ソフトウェア開発における迅速な機能作成への答えとして称賛される人もいますが、スピードの向上には代償が伴います。ツール自体からのコンテキスト認識の欠如と、ツール自体からのコンテキスト認識の欠如により、重大なセキュリティバグがコードベースに侵入する可能性と、生産性を高め、困難な開発シナリオへの回答を生み出すためにツールに依存する開発者の低レベルのセキュリティスキルです。
Large Language Model（LLM）テクノロジーは、支援ツールに大きな変化をもたらし、安全に使用すれば、多くのソフトウェアエンジニアが切望するペアプログラミングのお供になり得ます。しかし、AI 開発ツールを放置して使用すると、悪影響が生じる可能性があることがすぐにわかりました。 2023年の調査 スタンフォード大学によると、AIアシスタントに依存すると、出力が安全であるという信頼が高まるだけでなく、コード全体がバグが多く安全性が低下する可能性が高いことが明らかになりました。
完璧なLLMテクノロジーへの競争が進むにつれ、ツールは今後も改善されると考えても妥当ですが、次のような推奨事項が数多くあります。 新しい行政命令 バイデン政権から、また 人工知能法 EUからのもの-いずれにせよその使用は難しい道です。開発者は、コードレベルのセキュリティスキル、認識、AI ツールの出力に関する批判的思考を磨くことで有利なスタートを切ることができ、ひいてはより高い水準のエンジニアになることができます。
AIコーディングアシスタントはどのようにして脆弱性をもたらすのか？ 新しいパブリックミッションをプレイしよう そして自分の目で確かめてください！
例:「ChatterGPT」のクロスサイトスクリプティング (XSS)
私たちの新しいパブリックミッションでは、人気のLLMの使い慣れたインターフェースを明らかにし、活用しています リアル 2023年11月下旬に生成されたコードスニペット。ユーザーはこのスニペットを解釈して、意図した目的に使用された場合の潜在的なセキュリティ上の落とし穴を調査できます。
「pHTML要素の内容を変更するJavaScript関数を書いて、その関数を介して内容を渡すことはできますか？」というプロンプトに基づいています。AI アシスタントはコードブロックを忠実に生成しますが、すべてが見かけどおりではありません。
このチャレンジはもうプレイしましたか？そうでない場合は、 今すぐ試す さらに読む前に。
... さて、これで完了したので、問題のコードがクロスサイトスクリプティング（XSS）に脆弱であることがわかります。
XSS は Web ブラウザーのコア機能を操作することで可能になります。これは、信頼できない入力がページ上の出力としてレンダリングされても、実行可能で安全なコードとして誤って解釈される場合に発生する可能性があります。攻撃者は、入力パラメータ内に悪質なスニペット (HTML タグ、JavaScript など) を配置し、ブラウザに返されたときに、データとして表示される代わりに実行される可能性があります。
ソフトウェア開発におけるAIコーディングアシスタントの安全な使用
A 最近の調査 現役開発チームのほぼ全員（96％）がワークフローでAIアシスタントを使い始めており、80％がセキュリティポリシーを迂回してツールキットに留めていると回答しています。さらに、半数以上が、ジェネレーティブAIツールは一般的に安全でないコードを生成すると回答しましたが、それでも採用が遅くなることはありませんでした。
このソフトウェア開発プロセスの新時代では、これらのツールの使用を思いとどまらせたり禁止したりすることはうまくいきそうにありません。その代わり、組織は開発チームがセキュリティやコード品質を犠牲にすることなく、効率性と生産性の向上を活用できるようにする必要があります。そのためには、セキュア・コーディングのベスト・プラクティスに関する正確なトレーニングと、クリティカル・シンキングのスキルを高める機会を提供し、特にAIアシスタント・コード出力の潜在的な脅威を評価する際に、セキュリティ第一の考え方で行動できるようにする必要があります。
さらに読む
XSS全般については、こちらをご覧ください 総合ガイド。
安全なコードの書き方についてもっと知りたいですか？ リスクを軽減?私たちを試してみてください XSS インジェクションチャレンジ無料。
無料のコーディングガイドラインをもっと入手したい場合は、チェックしてください セキュア・コード・コーチ 安全なコーディングのベストプラクティスを常に把握するのに役立ちます。
どこを見ても、ほぼすべての業種でAIテクノロジーへのこだわりが続いています。ソフトウェア開発における迅速な機能作成への答えとして称賛される人もいますが、スピードの向上には代償が伴います。ツール自体からのコンテキスト認識の欠如と、ツール自体からのコンテキスト認識の欠如により、重大なセキュリティバグがコードベースに侵入する可能性と、生産性を高め、困難な開発シナリオへの回答を生み出すためにツールに依存する開発者の低レベルのセキュリティスキルです。
Large Language Model（LLM）テクノロジーは、支援ツールに大きな変化をもたらし、安全に使用すれば、多くのソフトウェアエンジニアが切望するペアプログラミングのお供になり得ます。しかし、AI 開発ツールを放置して使用すると、悪影響が生じる可能性があることがすぐにわかりました。 2023年の調査 スタンフォード大学によると、AIアシスタントに依存すると、出力が安全であるという信頼が高まるだけでなく、コード全体がバグが多く安全性が低下する可能性が高いことが明らかになりました。
完璧なLLMテクノロジーへの競争が進むにつれ、ツールは今後も改善されると考えても妥当ですが、次のような推奨事項が数多くあります。 新しい行政命令 バイデン政権から、また 人工知能法 EUからのもの-いずれにせよその使用は難しい道です。開発者は、コードレベルのセキュリティスキル、認識、AI ツールの出力に関する批判的思考を磨くことで有利なスタートを切ることができ、ひいてはより高い水準のエンジニアになることができます。
AIコーディングアシスタントはどのようにして脆弱性をもたらすのか？ 新しいパブリックミッションをプレイしよう そして自分の目で確かめてください！
例:「ChatterGPT」のクロスサイトスクリプティング (XSS)
私たちの新しいパブリックミッションでは、人気のLLMの使い慣れたインターフェースを明らかにし、活用しています リアル 2023年11月下旬に生成されたコードスニペット。ユーザーはこのスニペットを解釈して、意図した目的に使用された場合の潜在的なセキュリティ上の落とし穴を調査できます。
「pHTML要素の内容を変更するJavaScript関数を書いて、その関数を介して内容を渡すことはできますか？」というプロンプトに基づいています。AI アシスタントはコードブロックを忠実に生成しますが、すべてが見かけどおりではありません。
このチャレンジはもうプレイしましたか？そうでない場合は、 今すぐ試す さらに読む前に。
... さて、これで完了したので、問題のコードがクロスサイトスクリプティング（XSS）に脆弱であることがわかります。
XSS は Web ブラウザーのコア機能を操作することで可能になります。これは、信頼できない入力がページ上の出力としてレンダリングされても、実行可能で安全なコードとして誤って解釈される場合に発生する可能性があります。攻撃者は、入力パラメータ内に悪質なスニペット (HTML タグ、JavaScript など) を配置し、ブラウザに返されたときに、データとして表示される代わりに実行される可能性があります。
ソフトウェア開発におけるAIコーディングアシスタントの安全な使用
A 最近の調査 現役開発チームのほぼ全員（96％）がワークフローでAIアシスタントを使い始めており、80％がセキュリティポリシーを迂回してツールキットに留めていると回答しています。さらに、半数以上が、ジェネレーティブAIツールは一般的に安全でないコードを生成すると回答しましたが、それでも採用が遅くなることはありませんでした。
このソフトウェア開発プロセスの新時代では、これらのツールの使用を思いとどまらせたり禁止したりすることはうまくいきそうにありません。その代わり、組織は開発チームがセキュリティやコード品質を犠牲にすることなく、効率性と生産性の向上を活用できるようにする必要があります。そのためには、セキュア・コーディングのベスト・プラクティスに関する正確なトレーニングと、クリティカル・シンキングのスキルを高める機会を提供し、特にAIアシスタント・コード出力の潜在的な脅威を評価する際に、セキュリティ第一の考え方で行動できるようにする必要があります。
さらに読む
XSS全般については、こちらをご覧ください 総合ガイド。
安全なコードの書き方についてもっと知りたいですか？ リスクを軽減?私たちを試してみてください XSS インジェクションチャレンジ無料。
無料のコーディングガイドラインをもっと入手したい場合は、チェックしてください セキュア・コード・コーチ 安全なコーディングのベストプラクティスを常に把握するのに役立ちます。
Haga clic en el siguiente enlace para descargar el PDF de este recurso.
Secure Code Warrior le ayuda a proteger el código a lo largo de todo el ciclo de vida del desarrollo de software y a crear una cultura que dé prioridad a la ciberseguridad. Tanto si es gestor de seguridad de aplicaciones, desarrollador, CISO o responsable de seguridad, le ayudamos a reducir los riesgos asociados al código inseguro.
Mostrar informeReservar una demostración
AIコーディングアシスタントはどのようにして脆弱性をもたらすのか？新しい公開ミッションをプレイして、自分の目で確かめてください！このミッションでは、2023 年 11 月下旬に生成された実際のコードスニペットを使用して、人気の LLM の使い慣れたインターフェイスを公開します。ユーザーはこのスニペットを解釈して、意図した目的に使用された場合の潜在的なセキュリティ上の落とし穴を調査できます。
ミッションに挑戦Laura Verheyde es desarrolladora de software en Secure Code Warrior y se dedica a investigar vulnerabilidades y crear contenido para Mission Lab y Coding Lab.
どこを見ても、ほぼすべての業種でAIテクノロジーへのこだわりが続いています。ソフトウェア開発における迅速な機能作成への答えとして称賛される人もいますが、スピードの向上には代償が伴います。ツール自体からのコンテキスト認識の欠如と、ツール自体からのコンテキスト認識の欠如により、重大なセキュリティバグがコードベースに侵入する可能性と、生産性を高め、困難な開発シナリオへの回答を生み出すためにツールに依存する開発者の低レベルのセキュリティスキルです。
Large Language Model（LLM）テクノロジーは、支援ツールに大きな変化をもたらし、安全に使用すれば、多くのソフトウェアエンジニアが切望するペアプログラミングのお供になり得ます。しかし、AI 開発ツールを放置して使用すると、悪影響が生じる可能性があることがすぐにわかりました。 2023年の調査 スタンフォード大学によると、AIアシスタントに依存すると、出力が安全であるという信頼が高まるだけでなく、コード全体がバグが多く安全性が低下する可能性が高いことが明らかになりました。
完璧なLLMテクノロジーへの競争が進むにつれ、ツールは今後も改善されると考えても妥当ですが、次のような推奨事項が数多くあります。 新しい行政命令 バイデン政権から、また 人工知能法 EUからのもの-いずれにせよその使用は難しい道です。開発者は、コードレベルのセキュリティスキル、認識、AI ツールの出力に関する批判的思考を磨くことで有利なスタートを切ることができ、ひいてはより高い水準のエンジニアになることができます。
AIコーディングアシスタントはどのようにして脆弱性をもたらすのか？ 新しいパブリックミッションをプレイしよう そして自分の目で確かめてください！
例:「ChatterGPT」のクロスサイトスクリプティング (XSS)
私たちの新しいパブリックミッションでは、人気のLLMの使い慣れたインターフェースを明らかにし、活用しています リアル 2023年11月下旬に生成されたコードスニペット。ユーザーはこのスニペットを解釈して、意図した目的に使用された場合の潜在的なセキュリティ上の落とし穴を調査できます。
「pHTML要素の内容を変更するJavaScript関数を書いて、その関数を介して内容を渡すことはできますか？」というプロンプトに基づいています。AI アシスタントはコードブロックを忠実に生成しますが、すべてが見かけどおりではありません。
このチャレンジはもうプレイしましたか？そうでない場合は、 今すぐ試す さらに読む前に。
... さて、これで完了したので、問題のコードがクロスサイトスクリプティング（XSS）に脆弱であることがわかります。
XSS は Web ブラウザーのコア機能を操作することで可能になります。これは、信頼できない入力がページ上の出力としてレンダリングされても、実行可能で安全なコードとして誤って解釈される場合に発生する可能性があります。攻撃者は、入力パラメータ内に悪質なスニペット (HTML タグ、JavaScript など) を配置し、ブラウザに返されたときに、データとして表示される代わりに実行される可能性があります。
ソフトウェア開発におけるAIコーディングアシスタントの安全な使用
A 最近の調査 現役開発チームのほぼ全員（96％）がワークフローでAIアシスタントを使い始めており、80％がセキュリティポリシーを迂回してツールキットに留めていると回答しています。さらに、半数以上が、ジェネレーティブAIツールは一般的に安全でないコードを生成すると回答しましたが、それでも採用が遅くなることはありませんでした。
このソフトウェア開発プロセスの新時代では、これらのツールの使用を思いとどまらせたり禁止したりすることはうまくいきそうにありません。その代わり、組織は開発チームがセキュリティやコード品質を犠牲にすることなく、効率性と生産性の向上を活用できるようにする必要があります。そのためには、セキュア・コーディングのベスト・プラクティスに関する正確なトレーニングと、クリティカル・シンキングのスキルを高める機会を提供し、特にAIアシスタント・コード出力の潜在的な脅威を評価する際に、セキュリティ第一の考え方で行動できるようにする必要があります。
さらに読む
XSS全般については、こちらをご覧ください 総合ガイド。
安全なコードの書き方についてもっと知りたいですか？ リスクを軽減?私たちを試してみてください XSS インジェクションチャレンジ無料。
無料のコーディングガイドラインをもっと入手したい場合は、チェックしてください セキュア・コード・コーチ 安全なコーディングのベストプラクティスを常に把握するのに役立ちます。
Índice
Secure Code Warrior le ayuda a proteger el código a lo largo de todo el ciclo de vida del desarrollo de software y a crear una cultura que dé prioridad a la ciberseguridad. Tanto si es gestor de seguridad de aplicaciones, desarrollador, CISO o responsable de seguridad, le ayudamos a reducir los riesgos asociados al código inseguro.
Reservar una demostración[Descargar]Recursos para empezar
Temas y contenidos de la formación en código seguro
Nuestro contenido, líder en el sector, evoluciona constantemente para adaptarse al entorno de desarrollo de software en constante cambio, teniendo siempre en cuenta las funciones de nuestros clientes. Abarca todo tipo de temas, desde la inteligencia artificial hasta la inyección de XQuery, y está diseñado para satisfacer las necesidades de diversos perfiles, desde arquitectos e ingenieros hasta gestores de productos y responsables de control de calidad. Echemos un vistazo al contenido que ofrece nuestro catálogo, clasificado por temas y funciones.
La Cámara de Comercio establece el estándar para la seguridad impulsada por desarrolladores a gran escala
Kamer van Koophandel comparte cómo ha integrado la codificación segura en el desarrollo diario mediante certificaciones basadas en roles, evaluaciones comparativas de Trust Score y una cultura de responsabilidad compartida en materia de seguridad.
%20(1).avif)
.avif)
Modelado de amenazas con IA: convertir a cada desarrollador en un modelador de amenazas
Saldrá mejor equipado para ayudar a los desarrolladores a combinar ideas y técnicas de modelado de amenazas con las herramientas de IA que ya utilizan para reforzar la seguridad, mejorar la colaboración y crear software más resistente desde el principio.
Recursos para empezar
Cybermon ha vuelto: la misión de IA para derrotar al jefe ya está disponible bajo demanda.
Ahora se puede jugar a «Cybermon 2025 Beat the Boss» en SCW durante todo el año. Introduzca retos de seguridad avanzados de IA/LLM y refuerce a gran escala el desarrollo seguro de la IA.
Explicación de la Ley de Resiliencia Cibernética: su significado para el desarrollo de software seguro desde el diseño
Descubra qué exige la Ley de Resiliencia Cibernética (CRA) de la UE, a quién se aplica y cómo puede prepararse el equipo de ingeniería para las prácticas de seguridad desde el diseño, la prevención de vulnerabilidades y el desarrollo de las capacidades de los desarrolladores.
Enable 1: Criterios de éxito predefinidos y medibles
Enabler 1 es la primera parte de la serie Enablers of Success, compuesta por diez partes, y presenta cómo madurar un programa a largo plazo vinculando la codificación segura con resultados empresariales como la reducción de riesgos y la velocidad.
