近期介紹大量資料上雲使用者關于maxcompute的一些問題,現就maxcompute産品線的一些工具棧可以和大家進行交流,也歡迎大家拍磚和來擾,一起學習一起進步!也希望能夠在幫助到大家!
0.maxcompute概述:是什麼?可以做什麼?收費模式?
1.資料上雲工具介紹:log、logstash、flume、fluentd、datax等
2.maxcompute開發工具:data ide和maxcompute studio
3.資料分析展現工具概述:quick bi
maxcompute(原odps)是一項大資料計算服務,它能提供快速、完全托管的pb級資料倉庫解決方案,使您可以經濟并高效的分析處理海量資料。
maxcompute 是面向大資料處理的雲計算服務,主要提供結構化和非結構化資料的存儲和計算服務,
是阿裡巴巴雲計算整體解決方案中最核心的主力産品之一。
在分析海量資料場景下,由于單台伺服器的處理能力限制,資料分析者通常采用分布式計算模式。但分布式的計算模型對資料分析人員提出了較高的要求,且不易維護。使用分布式模型,資料分析人員不僅需要了解業務需求,同時還需要熟悉底層計算模型。maxcompute 的目的是為使用者提供一種便捷的分析處理海量資料的手段。使用者可以不必關心分布式計算細節,進而達到分析大資料的目的。
maxcompute 已經在阿裡巴巴集團内部得到大規模應用,例如:大型網際網路企業的資料倉庫和 bi 分析、網站的日志分析、電子商務網站的交易分析、使用者特征和興趣挖掘等。
從産品設計角度,maxcompute 主要面向三類大資料處理場景:基于sql 建構大規模資料倉庫和企業bi 系統,基于mapreduce 和bsp 的分布式程式設計模型開發大資料應用,基于統計和機器學習算法開發大資料統計模型和資料挖掘。在後面“典型場景”一節将會給出這些場景的應用執行個體。
從服務角度,maxcompute 采用抽象的作業處理架構将不同場景的各種計算任務統一在同一個平台之上,共享安全、存儲、資料管理和資源排程,為來自不同使用者需求的各種資料處理任務提供統一的程式設計接口和界面。maxcompute 這種內建多種不同大資料處理應用場景的設計思想領先于業界同類雲計算産品,為大資料應用開發提供一個非常強大的平台。
<a href="https://www.aliyun.com/customer/detail/moji" target="_blank">墨迹天氣:日志資料分析</a>
<a href="https://yq.aliyun.com/articles/88294" target="_blank">小紅唇:建構大資料倉庫</a>
<a href="https://www.aliyun.com/customer/detail/mjb" target="_blank">美甲幫:業務資料化營運</a>
<a href="https://www.aliyun.com/customer/detail/huihex" target="_blank">彙合營銷:大資料精準營銷</a>
<a href="https://www.aliyun.com/product/odps" target="_blank">更多</a>
目前,maxcompute以項目project為計費單元,對project内的資料存儲、計算(目前隻是sql)、資料下載下傳(走公網收費)進行收費,計費周期都是當天出前一天的賬單。
0< 存儲量 < 512mb: 收取目前項目0.01元費用。
存儲量 > 512mb:
基礎價格
大于100gb部分
大于1tb部分
大于10tb部分
大于100tb部分
1pb以上部分
0.0192元/gb/天
0.0096元/gb/天
0.0084元/gb/天
0.0072元/gb/天
0.006元/gb/天
請通過工單聯系我們
例如使用者某個項目的存儲為50tb,則每天收取的費用為:
由于maxcompute會對原始資料進行壓縮,那麼計費依據也是按照壓縮後的資料量進行計算,一般壓縮比在5倍左右。
後付費:以作業實際消耗量作為統計名額,在執行後進行收費。
所謂按i/o後付費是指:使用者每執行一條sql作業,maxcompute将根據該作業的輸入資料及該sql的複雜度進行計費。
一次sql計算費用 = 計算輸入資料量(sql語句實際掃描資料量) sql複雜度 sql價格(0.3元/gb),其中複雜度一般先統計sql語句中的關鍵字再進行折算,也可以使用cost sql 進行估算。 sql關鍵字個數 = join個數 + group by個數 + order by個數 + distinct個數 + 視窗函數個數 + max(insert into個數-1, 1)
在data ide中會針對每個sql在執行前會進行一次計算消費的預估,如下圖:
預付費:包年包月購買cu方式,10cu起售。
1cu = 1cpu + 4gb記憶體,售價為 150元/月。
對于公網或者跨region的資料下載下傳,maxcompute将按照下載下傳的資料大小進行計費(也就是說資料下載下傳走内網模式且在目前region内是不計費的)。計費公式為:
一次下載下傳費用 = 下載下傳資料量 * 下載下傳價格
針對不同網絡環境(通路 maxcompute 及其 tunnel 服務的連接配接位址)的收費模式詳細說明如下:
區域
網絡
maxcompute服務連接配接
maxcompute tunnel連接配接
下載下傳是否收費
華東1
公網
<a href="http://service.odps.aliyun.com/api">http://service.odps.aliyun.com/api</a>
<a href="http://dt.odps.aliyun.com">http://dt.odps.aliyun.com</a>
是
經典網絡
<a href="http://odps-ext.aliyun-inc.com/api">http://odps-ext.aliyun-inc.com/api</a>
<a href="http://dt-ext.odps.aliyun-inc.com">http://dt-ext.odps.aliyun-inc.com</a>
否
vpc
華東2
<a href="http://dt.eu13.odps.aliyun.com">http://dt.eu13.odps.aliyun.com</a>
<a href="http://dt-ext.eu13.odps.aliyun-inc.com">http://dt-ext.eu13.odps.aliyun-inc.com</a>
華北2
<a href="http://dt-ext.nu16.odps.aliyun-inc.com">http://dt-ext.nu16.odps.aliyun-inc.com</a>
其他
不支援,需要使用者走公網通路
--