課税仕入れ等に係る消費税額を控除するには、その事実を記載し、区分経理に対応した帳簿および事実を証する請求書等の両方を保存する必要がある。課税仕入れ等の事実を記載した帳簿、請求書等は、帳簿については、その閉鎖の日、請求書等についてはその受領した日の属する課税期間の末日の翌日から２ヵ月を経過した日から７年間保存することとされているが、６年目と７年目は、いずれか一方を保存すればよいこととされている。
また、取引の実態を踏まえ、特例的な取扱いがある。請求書等の交付を受けることが困難であるなどの理由により、以下の取引については、一定の事項を記載した帳簿のみの保存でよいこととされている。その取引とは、(1)適格請求書の交付義務が免除される３万円未満の公共交通機関による旅客の運送、(2)適格簡易請求書の記載事項（取引年月日を除く）が記載されている入場券等が使用の際に回収される取引（(1)に該当するものを除く）。
(3)古物営業を営む者の適格請求書発行事業者でない者からの古物（古物営業を営む者の棚卸資産に該当するものに限る）の購入、(4)質屋を営む者の適格請求書発行事業者でない者からの質物（質屋を営む者の棚卸資産に該当するものに限る）の取得、(5)宅地建物取引業を営む者の適格請求書発行事業者でない者からの建物（宅地建物取引業を営む者の棚卸資産に該当するものに限る）の購入
(6)適格請求書発行事業者でない者からの再生資源及び再生部品（購入者の棚卸資産に該当するものに限る）の購入、(7)適格請求書の交付義務が免除される３万円未満の自動販売機及び自動サービス機からの商品の購入等、(8)適格請求書の交付義務が免除される郵便切手類のみを対価とする郵便・貨物サービス、(9)従業員等に支給する通常必要と認められる出張旅費等（出張旅費、宿泊費、日当及び通勤手当）などが該当する。
なお、2023年10月１日から適格請求書等保存方式が開始したことに伴い、それまで認められていた、税込みの支払額が３万円未満の場合や、３万円以上であっても請求書等の交付を受けなかったことにつきやむを得ない理由がある場合に帳簿のみの保存で仕入税額控除が可能とされる特例は廃止された。また、金または白金の地金の課税仕入れを行った場合、その課税仕入れの相手方の本人確認書類の保存が必要となる。