北京2021年9月22日 /美通社/ --
眼睛大大明察秋毫
卡通小鳥優(yōu)雅輕巧
工具雖小但絕對能搞定大事兒
一個關注細節(jié)的“卡哇伊”啄木鳥形象
這就是Venus
近日,這款身材雖小卻蘊藏大能量的智能工具傳來好消息!作為浪潮云海針對OpenStack平臺在日志存儲、檢索、分析等方面的需求而實力推出的日志管理項目,Venus以全數(shù)贊成票通過了OpenStack社區(qū)TC團隊的審核,成為國內(nèi)貢獻OpenStack社區(qū)且在智能運維領域的首個正式項目。
貢獻社區(qū)的Venus究竟是什么?
概括來說,Venus主要還是取決于大規(guī)模部署條件下,針對OpenStack平臺在日志存儲、檢索、分析等方面的核心需求,可以做到一站式滿足日志采集、清洗、索引、分析、告警、可視化、生成報告等,幫助運維人員快速檢索問題,掌握平臺的運行健康度,并在未來計劃引用機器學習算法,快速定位IT故障及根因,提高運維效率以及平臺管理的水平。
具體來說在檢索工作上,Venus主要提供了簡單易用的檢索方式,可以做到檢索一切日志數(shù)據(jù),定位日志上下文;在分析上主要實現(xiàn)日志關聯(lián)、字段數(shù)值統(tǒng)計,提供多場景、多維度的可視化分析報表;告警層面則將搜索轉(zhuǎn)化為主動告警,實現(xiàn)海量日志中錯誤的“大海撈針”;定位是主要通過建立知識圖譜和調(diào)用的鏈式關系,結(jié)合算法實現(xiàn)故障的快速定位。
以下是基于浪潮云海自研OpenStack Dashboard(浪潮云海自研的OpenStack Dashboard已貢獻到木蘭社區(qū),感興趣的小伙伴可以到社區(qū)下載集成,功能完善且操作簡易。)集成Venus的兩個典型示例,可參考:
示例1:在云平臺上的虛擬機創(chuàng)建操作未成功,怎樣迅速定位到問題呢?
a.找到創(chuàng)建操作的請求ID,并通過此跳轉(zhuǎn)到虛擬機創(chuàng)建調(diào)用鏈頁面。
b. 系統(tǒng)可以展示整個調(diào)用過程,做到清楚定位到整體調(diào)用鏈錯誤日志的位置。
示例2:當云平臺出現(xiàn)錯誤日志時,如何將其轉(zhuǎn)化為告警來提醒運維人員呢?
a. 運維人員收到的日志告警信息如下:
b. 運維人員可以進一步成功檢索錯誤日志的詳細信息和統(tǒng)計信息。
表現(xiàn)亮眼的Venus,整體的技術架構如何?
浪潮云海技術研發(fā)團隊表示,Venus以Fluented+Elasticsearch為基礎,深度挖掘日志數(shù)據(jù)、固化運維的場景并提供認證的通用接口,例如:
采集層:開發(fā)了基于Fluented的采集任務,針對OpenStack、操作系統(tǒng)、平臺服務等日志開發(fā)了讀取、過濾、格式化、發(fā)送等插件,而且用戶可以按需配置。
存儲層:采集并格式化后日志索引至Elasticsearch集群中,ES提供副本機制。即使在某些服務器宕機后仍能正常工作,提高數(shù)據(jù)可用性,同時存儲層也有Mysql作為分析結(jié)果的存儲。
Venus_api:api服務主要進行簡單的業(yè)務處理,提供更簡潔更全面的認證接口。將上層調(diào)用轉(zhuǎn)化為底層Elasticsearch查詢,并對查詢的多維度索引數(shù)據(jù)進行簡單處理,同時將結(jié)果返回。
Venus_manager:內(nèi)部定時任務模塊,開發(fā)了可配置的定時任務,包括數(shù)據(jù)清理任務、日志分析任務、日志告警任務、調(diào)用鏈分析任務等核心業(yè)務處理任務。
展現(xiàn)層:Venus已開發(fā)Horizon插件并且提供統(tǒng)一接口對接第三方系統(tǒng)。
關于Venus的未來,期望可以如此
一直以來浪潮云海通過對開源開放技術的攻堅,突破開源版本在性能、大規(guī)模管理能力方面的瓶頸,秉承“源于開源、饋于開源”的理念,助力業(yè)界共同構建開放統(tǒng)一的智能基礎設施。
Venus項目旨在打造一個開放的OpenStack日志管理平臺,集合廣大用戶在日志領域的需求和實踐,提供各場景日志分析并集成算法和知識圖譜實現(xiàn)故障的快速定位,構建完備的日志運維場景,所以Venus模塊會隨OpenStack的Yoga版本發(fā)布第一個正式的Release,未來的重點工作將會涉及: