近期，奧比中光研發(fā)團(tuán)隊(duì)融合前沿多模態(tài)大模型技術(shù)，推出最新2.0版大模型機(jī)械臂演示方案。新方案搭載公司最新深度相機(jī)Gemini 335L和Femto Bolt，能夠基于語音指令，自動執(zhí)行沏茶、插花、滴香薰、播放音樂等一系列復(fù)雜任務(wù)。此前在2023年底，奧比中光成功發(fā)布大模型機(jī)械臂1.0，在業(yè)界引起廣泛關(guān)注。

（點(diǎn)擊播放視頻）

奧比中光2.0版大模型機(jī)械臂結(jié)合多模態(tài)大模型技術(shù)（語音、文本、視覺）與機(jī)械臂控制技術(shù)，可以生成空間語義信息，幫助機(jī)械臂準(zhǔn)確識別、理解生活中的常見物體并執(zhí)行相應(yīng)動作，可識別物體包括日常用品、食品和工業(yè)零件等。

以最具挑戰(zhàn)性的沏茶任務(wù)為例，其難點(diǎn)在于流程長、步驟多，需要保證動作執(zhí)行的準(zhǔn)確性和多步驟之間的邏輯合理性。奧比中光研發(fā)團(tuán)隊(duì)借助高精度Gemini 335L和Femto Bolt相機(jī)實(shí)現(xiàn)目標(biāo)抓取位姿的精確定位，結(jié)合大模型的理解能力，經(jīng)過長期算法優(yōu)化與仿真環(huán)境調(diào)試，最終實(shí)現(xiàn)對沏茶等復(fù)雜任務(wù)的理解、規(guī)劃與自動執(zhí)行。

相比1.0版本，2.0版大模型機(jī)械臂在以下幾個方面實(shí)現(xiàn)了升級：

奧比中光2.0版大模型機(jī)械臂通過搭載公司最新深度相機(jī)和AI算法，在識別、抓取和操作復(fù)雜物體時的精度和效率顯著提升。相較于1.0版本采用的Gemini 2系列相機(jī)，2.0版本的Gemini 335L和Femto Bolt在深度精度和深度完整性方面具有更佳表現(xiàn)，捕捉更精致的物體細(xì)節(jié)，可重建玻璃、亞克力等透明材質(zhì)物體，從而讓機(jī)械臂能夠精準(zhǔn)定位物體，高效執(zhí)行動作。此外，公司基于仿真與實(shí)際相結(jié)合的調(diào)試優(yōu)化方式，可快速實(shí)現(xiàn)AI算法驗(yàn)證與迭代。

機(jī)器人要想具備更通用的能力，需要理解真實(shí)的物理世界。作為行業(yè)領(lǐng)先的機(jī)器人視覺及AI視覺公司，奧比中光長期致力于3D視覺感知技術(shù)的研發(fā)，以促進(jìn)具身智能在感知技術(shù)層面的進(jìn)步。未來，團(tuán)隊(duì)將進(jìn)一步提升大模型機(jī)械臂的理解能力，使其能夠處理更多復(fù)雜、抽象的任務(wù)；提升機(jī)械臂在復(fù)雜或動態(tài)變化環(huán)境中的泛化能力，并加強(qiáng)人機(jī)交互與機(jī)器自我學(xué)習(xí)能力，加速其在生活服務(wù)、工業(yè)生產(chǎn)等實(shí)際場景中的落地應(yīng)用。