一臺二手質譜儀都是由五個立的系統組成，即：樣品入口，離子源，質量分析器，檢測器和記錄儀。
由于二手質譜儀要在真空狀態下運行，一個樣品入口系統是必須的，這樣才能把樣品從室內常壓轉移到離子源。離子源是把樣品分子轉換成樣品離子。樣品離子是帶有電荷的樣品分子。簡單的形成樣品離子的方法就是從中行分子里移除一個電子，這樣就形成了正離子。在過去的許多年，許多不同的離子源被開發出來，但是重要的一點是，樣品分子必須變成樣品離子才能被質譜所分析。
在二手質譜儀里，電場或者磁場，或者兩者都有的分析器，被用來控制樣品離子的運動，這樣便可根據其質量不同而將其分離。雖然有很多不同的質量分析器，但是都執行相同的功能--根據質量分離不同的離子。
檢測器可以感知已經被分離的離子的到達，放大其微笑的離子的電流以便進一步的電子處理。雖有很不不同類型的檢測器，但作用都一樣，就是檢測離子并將其轉換成較強的電信號。
記錄儀接受檢測器的信號，將其放大并記錄，這樣就得到了質譜圖。記錄儀可以是簡單的帶狀記錄紙，也可以是很復雜的電腦系統。無論那種情形，數據都應該準確的被記錄并在以后需要分析的時候可以調用。
質譜要在真空系統運行。通常真空度的范圍是室內常壓的百萬分之一或者十億分之一。離子源、二手質譜儀和檢測器在真空系統里。