lcg計算系統(tǒng)用戶知識講座 - 中國科學(xué)院高能物理研 …

1、LCG計算系統(tǒng)和北京站點狀況,孫功星2005/01/28,報告內(nèi)容,過去高能物理的合作模式及問題。LHC實驗及LCG網(wǎng)格系統(tǒng)的目的。LCG系統(tǒng)的軟件及當前運行狀況。LCG的體系結(jié)構(gòu)。LCG北京站點組成與運行情況。中國高能物理的認證中心和VO。高能物理的網(wǎng)格計算環(huán)境設(shè)想。總結(jié),過去高能物理計算模式及問題,過去高能物理合作中的問題,20年來的高能物理分布式計算的經(jīng)驗（production manager)。 - 在資源

2、提供站點建立賬號（非常有經(jīng)驗的人員共享）。 - 建立quota（由合作委員會商定）。 - 程序環(huán)境—F77、Cernlib、IOlib，基本上沒有其他的軟件。 - 數(shù)據(jù)（tape，offline）。存在的問題 - 協(xié)商本身存在問題：改變用戶、增加資源。 - 僅有很少的高級人員可以訪問這些分布式的資源。因此，它不適合于LHC的計算模式。,LHC計算合作的特點,CMS、ATLAS、ALICE和LHCb—當前

3、世界上最大的粒子物理實驗。于2007年正式投入運行，每年將產(chǎn)生12—14PetaBytes數(shù)據(jù)，相當于2千萬張CDs。需要70000個當前最新的處理器。當前，任何一個實驗室都很難承擔建造和運行這樣大的計算系統(tǒng)—資金投入、策略、技術(shù)和人員。已經(jīng)非常了解問題所在，并積累了許多分布式的MC和重建方面的經(jīng)驗。已經(jīng)建立了良好的合作關(guān)系。事例互相獨立—大量作業(yè)是批作業(yè)，SpecInt更重要。合作便成為唯一的解決方案—LCG結(jié)構(gòu)圖。,,,

4、Online System,,CERN Computer Center > 20 TIPS,,USA Center,France Center,,Italy Center,UK Center,,,,,Institute,,Institute,,Institute,,Institute ~0.25TIPS,,,,,,,,,,,,,~100 MBytes/sec,100 - 1000 Mbits/sec,HPSS,HPSS,Physi

5、cists work on analysis “channels”.Each institute has ~10 physicists working on one or more channels,Physics data cache,,~PBytes/sec,2.5 Gbits/sec,HPSS,HPSS,HPSS,,,,,,,~622 Mbits/sec,Tier 0 +1,Tier 3,Tier 4,,,,,Tier 2,Ex

6、periment,CERN/Outside Resource Ratio ~1:2Tier0/(? Tier1)/(? Tier2) ~1:1:1,LCG系統(tǒng)軟件及運行狀態(tài),LCG的軟件,當前狀態(tài)：LCG0—>LCG1—>LCG2 （lcg2_3_0）（DataGrid）。最終目標：LCG3—>LCG4—>LCG5 （EGEE）。軟件： - V

7、DT (Globus 2.4, Globus3.0）。 - DataGrid （WP1, WP2, WP3, …, WP12）。 - LCG：解決了作業(yè)管理器與文件系統(tǒng)的問題， 為了保持最新的資源信息增加了 BDII LDAP ， 增強了Globus gateway的功能 (如，記賬、日志，)，剔除了許多EDG and Globus/VDT問題，提供了通過SRM和GFAL對數(shù)據(jù)的訪問。,站點的情況,參加LCG計算

8、的有31個國家。站點數(shù)達到95個?？偟腃PU數(shù)達到9528個—世界上最大的計算機系統(tǒng)。,LCG系統(tǒng)的體系結(jié)構(gòu),LCG的體系結(jié)構(gòu),安全的信任基礎(chǔ)設(shè)施。信息系統(tǒng)。數(shù)據(jù)管理。工作流程。,安全信任基礎(chǔ),GSI—Grid Security Infrastructure - 身份認證與授權(quán)。 - 基于PKI X.509（Public Key Infrastructure）。身份認證—你說你是誰你就是誰！授權(quán)—確定你可以

9、做什么！認證中心CA - 為用戶和服務(wù)簽發(fā)證書（certificate）：X.509+extension。 - 證書策略和說明CP/CPS。 - 站點決定接受那些CA簽發(fā)的證書：維護CAs列表和更新CRLs。,X.509,用戶證書+私有密鑰—>Proxy證書（生命期有限，委托等特征）。對于長的作業(yè)，需要MyProxy支持。,授權(quán),VO - 每一個實驗有一個虛擬組織(cms，atlas…)

10、。實際上是運行一個LDAP服務(wù)器。 - 定期地發(fā)布用戶的subject。用戶需要注冊到自己的VO。站點提供資源。 - 屬于什么VO？ - pool accounts。 - 按照用戶屬于的VO，將其map到pool account。 - LCAS本地授權(quán)策略。VOMS將替代LDAP，提供role功能。,GIS,基于Globus的MDS（Monitoring and Discover

11、y System） - 有關(guān)資源及其狀態(tài)、可訪問性等信息。 - 信息包括靜態(tài)和動態(tài)信息兩種：CPU（dynamic）、站點名字（static)、…通過LDAP系統(tǒng)訪問。模式（schema）由GLUE（Grid Lab. for Uniform Environment）。 - 用戶可以通過Ldap的客戶程序（ldapsearch）來查詢。分級的系統(tǒng)。 - 資源由GRIS 發(fā)布。 -

12、站點的信息由GIIS從GRIS收集。 - GIIS注冊到區(qū)域的GIIS。 - 最高級是一個BDII。,數(shù)據(jù)管理,基本的協(xié)議—Gridftp（security and parallel ftp)。對存儲系統(tǒng)的接口是SRM（Storage resource mgt.)。RLS跟蹤文件的位置。 - 提供邏輯文件名和物理文件的映射。 - 一個VO一個RLS。RM（Replica Manager）

13、 - 文件移動、復(fù)制基本的工具。 - 建立在RLS之上。GFAL（Grid File Access Lib.）提供透明的用戶訪問。,Replica Location Service,用戶來命名文件的邏輯名字或aliases。RMC（replica Metadata catalog)存放LFN和GUID（Global Unique ID）。RLI（replica location index）知道LRC（local

14、 replica catalog）。LRC 知道GUID和SRM需要的名字間的映射。SRM知道處理存儲系統(tǒng)。,工作流程,服務(wù)將資源和作業(yè)連接起來。 - RB節(jié)點上 - 跟蹤作業(yè)的狀態(tài)(LBS)。 - 與CE上的Globus Gatekeeper和資源管理器交互。 - 將作業(yè)與站點匹配，提交作業(yè)。 - 假如失敗，重新提交。使用許多服務(wù)：IS，RLS，GSI…用戶提交的作業(yè)描

15、述。,Grid組件,工作流程圖示,LCG北京站點的組成及運行狀況,LCG北京站點組成,CE,SE,RB,BDII,Myproxy,UI,MON,LCG北京站點的運行狀況,,中國高能物理認證中心,IhepGrid Mon-Sys,HEP VO和RLS,運行一個LDAP服務(wù)器，管理高能物理用戶的subjects。提供高能物理站點資源的授權(quán)策略。VOMS將成為我們的授權(quán)管理系統(tǒng)。RLS—維護高能物理文件元信息系統(tǒng)。,計算從集中->

16、分散->新的集中。高速網(wǎng)絡(luò)的發(fā)展：遠程計算與本地計算差別消失。計算成為國家的信息基礎(chǔ)設(shè)施：計算資源的共享成為必然，計算將成為公用設(shè)施。建立在網(wǎng)格基礎(chǔ)上的虛擬實驗技術(shù)將進一步發(fā)展。高能物理將是E-science的一個主要技術(shù)促進者、開發(fā)者和受益者。中國高能網(wǎng)格站點（e-science site）—2000最新的CPUs,10PetaBytes存儲，10Gb網(wǎng)絡(luò)連接的大型計算設(shè)施。,E-science與高能物理研究,未來中國

17、高能物理網(wǎng)格設(shè)想,BES,On line system,Offline processor farm,YBJ,CERN CMS & ATLAS,IHEP Computer Center,,,,pku,CASTOR,,,,,,,,,,,,,,,,,,,Physics data cache,,,,,Tier 1,Tier 2,Tier 3,All data from experimentsGoes to IHEP Compu

18、ting Center,This diagram onlyShows HEPDataGrid in China,,,,10Gbps,E-science,總結(jié),當前的系統(tǒng)已經(jīng)達到semi-production.OGSA將可能使LCG具有更重要意義的跨越。系統(tǒng)的效率仍然有待提高。仍然存在許多Bugs.各個站點維護不力，包括CERN。今年我們將與合作單位一道在國家的綜合網(wǎng)絡(luò)平臺下建設(shè)中國高能物理的示范環(huán)境，進一步加強國際合作。,