ai引擎 文章 進(jìn)入ai引擎技術(shù)社區(qū)

2024年亟需解決的AI引擎和軟件開(kāi)發(fā)安全問(wèn)題

• ?隨著AI應(yīng)用的規(guī)模不斷擴(kuò)大以及大語(yǔ)言模型（LLM）的商品化，開(kāi)發(fā)者越來(lái)越多地承擔(dān)起將人工智能（AI）和機(jī)器學(xué)習(xí)（ML）模型與軟件更新或新軟件一起打包的任務(wù)。雖然AI/ML在創(chuàng)新方面大有可為，但同時(shí)也加劇了人們的擔(dān)憂，因?yàn)樵S多開(kāi)發(fā)人員沒(méi)有足夠的帶寬來(lái)安全地管理其開(kāi)發(fā)。?安全漏洞可能無(wú)意中將惡意代碼引入 AI/ML 模型，從而使威脅行為者有了可乘之機(jī)，引誘開(kāi)發(fā)者使用開(kāi)放源碼軟件模型變種，滲透企業(yè)網(wǎng)絡(luò)并對(duì)組織造成進(jìn)一步損害。甚至還有開(kāi)發(fā)者越來(lái)越多地使用生成式AI來(lái)創(chuàng)建代碼，卻不知道自己生成
• 關(guān)鍵字： AI引擎   JFrog