คำว่าสถิติมีต้นกำเนิดมาจากภาษาละติน statisticum collegium (การบรรยายเกี่ยวกับกิจการของรัฐ) โดยมีคำภาษาอิตาลีว่า statista (รัฐบุรุษหรือนักการเมือง) และคำภาษาเยอรมัน Statistik (การวิเคราะห์ข้อมูลเกี่ยวกับรัฐ)
เป็นศาสตร์ที่ใช้ทฤษฎีความน่าจะเป็นในการอธิบายความถี่ของการเกิดเหตุการณ์ต่างๆ ทั้งในการศึกษาเชิงสังเกต การทดลองแบบจำลอง ความสุ่ม และความไม่แน่นอนของรูปแบบ ในลักษณะที่กระตุ้นหรือช่วยให้สามารถทำนายปรากฏการณ์ในอนาคตได้ ขึ้นอยู่กับการประยุกต์ใช้
วัตถุประสงค์ของสถิติคือการผลิตข้อมูลที่ดีที่สุดเท่าที่เป็นไปได้จากข้อมูลที่มีอยู่ ผู้เขียนบางคนแนะนำว่านี่เป็นสาขาหนึ่งของทฤษฎีการตัดสินใจ
ถือเป็นวินัยที่แตกต่างจากคณิตศาสตร์ เนื่องจากเน้นไปที่การประยุกต์ใช้งาน ทุ่มเทให้กับการรวบรวม การวิเคราะห์ และการตีความข้อมูล เกี่ยวข้องกับวิธีการรวบรวม จัดระเบียบ สรุป นำเสนอ และตีความข้อมูล สรุปเกี่ยวกับคุณลักษณะของแหล่งที่มาที่นำข้อมูลมา เพื่อให้เข้าใจสถานการณ์ได้ดีขึ้น
วิทยาศาสตร์อื่นๆ ใช้สถิติประยุกต์ ซึ่งท้ายที่สุดก็มีคำศัพท์เฉพาะทาง ตัวอย่าง: ชีวสถิติและธรณีสถิติ
มันได้กลายเป็นเครื่องมือสำคัญในการดำเนินธุรกิจและอุตสาหกรรมโดยรวม