天天看點

商湯AR開發之旅(1)-- 關于SenseAR SDK

商湯AR開發之旅(1)-- 關于SenseAR SDK

SenseAR 開發平台以商湯科技為核心,聯合若幹戰略合作夥伴,提供一整套 AR 解決方案,包括 AR 底層驅動引擎、AR 内容創作工具鍊和 AR 硬體裝置推薦,為各行各業的商家和使用者提供 AR 服務,形成一個 AR 生态。商湯SenseAR提供平面檢測、運動追蹤、雲錨點、手勢識别等多種AI+AR基礎能力,通過賦能移動端開發,建構增強現實體驗平台。

簡介

為了給AR開發者和内容創作提供一站式服務,商湯科技推出中國原創AR開發者平台——SenseAR開發者平台,以原創領先的SLAM 能力、環境感覺、光照估計等AI技術,為AR發展提供強大助力。相較于其他AR平台,商湯科技SenseAR開發者平台在平台适配性、硬體需求、應用開發、溝通維護、開發成本等各個方面,均有顯著優勢。

商湯AR開發之旅(1)-- 關于SenseAR SDK

功能特性

SenseAR開發者平台,提供C、Java、Unity3D等版本SDK;能夠提供實時跟蹤與建圖、尺度估計、多平面檢測、光照估計、手勢檢測、稠密重建功能,後續還會繼續增加更多AR基礎功能。

商湯AR開發之旅(1)-- 關于SenseAR SDK

(1)實時跟蹤與建圖:能夠實作6DOF跟蹤,融合視覺和IMU資訊,實時定位手機的位姿資訊和輸出周圍環境的地圖資訊。

(2)尺度估計:尺度估計把虛拟物體模型以真實的大小準确的放在真實場景中。

(3)多平面檢測:快速檢測水準面和豎直平面(如地面和牆面)的大小和位置。

(4)光照估計:估計目前環境的光照情況 。

(5)手勢檢測:包括手勢的2D/3D關鍵點、手勢姿态類型等資訊的檢測、以及手勢在RGB圖和深度圖上分割結果輸出,支援基于手的AR互動互動。

(6)稠密重建:融合深度與RGB資訊,建立稠密環境網格,實作實時環境稠密重建。

(7)圖像識别與跟蹤:借助增強圖像功能,幫助識别并标記環境中的一系列2D目标圖像,并在攝像頭移到圖像外時仍可标記該圖像位置。

(8)雲錨點:利用雲端技術使位于同一現實場景中的多台裝置可加載同一個錨點,并渲染到各自的場景中,在該錨點上進行AR體驗和互動。

(9)人臉識别與跟蹤:基于RGB資訊,擷取增強現實中的人臉模型,實作人臉的實時識别與跟蹤。

(10)三維物體識别與跟蹤:基于RGB資訊,線上建立三維物體模型,并實作三維物體模型的實時識别與跟蹤。

SDK概述

SenseAR SDK以SenseAR API的形式提供給開發者,包含c/java/c# for unity三種語言形式,其中java/c# for unity會依賴c版本的接口實作。形式如下圖所示:

商湯AR開發之旅(1)-- 關于SenseAR SDK

SenseAR SDK包含功能包括:

  • SLAM:6DOF跟蹤、重定位與回路閉合、水準面、豎直面檢測
  • 光照估計、單亮度值環境光感覺、環境圖
  • 手勢識别:14種預定義手勢識别
  • 圖像識别與跟蹤:多圖像快速識别與跟蹤
  • 人臉跟蹤與重建:人臉的快速檢測、跟蹤和重建
  • 雲錨點:多台AR裝置共享同一坐标系
  • 三維物體識别與跟蹤:三維物體快速識别與跟蹤
  • 實時三維重建

開發配置

為了能正常運作SDK内的sample,對硬體和軟體環境都有一定的要求。商湯SenseAR和OPPO ARUnit采用相同的标準,互相相容,在部分小米機型和OPPO機型,分别預安裝了SenseAR和OPPO ARUnit。商湯SenseAR分成兩個部分:

  • SDK:內建到app裡面;
  • SenseAR:開發者網站下載下傳,是一個apk檔案,運作內建SDK的app時需要確定SenseAR已經安裝到手機裡面。

硬體環境

商湯AR開發之旅(1)-- 關于SenseAR SDK

軟體環境

為了能正常運作SDK内的sample,需先安裝SenseAR作為運作環境(預裝或者手動安裝)。如果想體驗最新的效果和功能,推薦使用或更新到最新的SenseAR,具體可參考如下注意事項:

  • 小米預裝版本SenseAR在應用設定裡面名稱為ARServer,OPPO預裝版本SenseAR的名字為ARUnit,預裝版本比較老,隻包含SLAM功能。
  • 最新的效果和功能,推薦使用或更新到最新的SenseAR,新版SenseAR安裝後應用清單名字為SenseAR,使用新版SenseAR需要先解除安裝預裝版本,兩者無法共存。
  • 同時需要安裝相應的開發環境,如下表所示:
商湯AR開發之旅(1)-- 關于SenseAR SDK

相關教程:

SDK下載下傳連結:https://openar.sensetime.com/sdks

商湯SenseAR開發系列教程(1)-- 用手勢發射愛心

商湯SenseAR開發系列教程(2)-- SenseAR常見問題總結【建議收藏】

商湯SenseAR開發系列教程(3)-- 用手勢發射愛心并加入發射方向【源碼】

商湯SenseAR開發系列教程(3)-- 人臉檢測之放置臉部挂飾

商湯SenseAR開發系列教程(5)-- 人臉追蹤2之探索挂點位置

關于更多機器學習、人工智能、增強現實、Unity、Unreal資源和技術幹貨,可以關注公衆号:三次方AIRX,共同學習,一起進步!AIRX三次方:超酷的開發者學習服務與交流平台(專注ARVR、Unity、Unreal、CV、AI領域)學ARVR開發,來AIRX三次方!!!

商湯AR開發之旅(1)-- 關于SenseAR SDK

繼續閱讀