Script Programming(스크립트 프로그래밍)

  • 홈
  • 태그
  • 미디어로그
  • 위치로그
  • 방명록

double precision floating point number 1

0.1 + 0.2 의 계산 결과가 0.3 이 되게 하기

어떤 프로그램 언어를 쓰든 0.1 + 0.2 ≠ 0.3 이 되는 것이 당연(?)합니다. 또한 1.0/(0.1 + 0.2 - 0.3) ≠ ∞ 이 되는 것도 당연(?)합니다. >>> 0.1 + 0.2 - 0.3 5.551115123125783e-17 >>> 0.1 + 0.2 - 0.3 > 1.0E-17 True >>> 0.1 + 0.2 - 0.3 > 1.0/10E17 True 0.1 + 0.2 - 0.3 이 1.0E-17 즉 0.000000000000000001 보다 크다고 합니다. 이래 가지고서는 부동소수점수의 계산 결과를 어디 까지 믿을 수 있는지 의문입니다. (보통으로는 배정밀도 부동소수점수는 유효수자 개수가 14개~15개 정도입니다.) 다행히 Python 의 fractions 모듈과 decimal 모..

프로그래밍/Python 2023.01.05
이전
1
다음
프로필사진

Script Programming(스크립트 프로그래밍)

본격적인 애플리케이션 개발에 앞서 미리 빠르게 작성하고 테스트하는데는 스크립팅 언어가 제격이다. 이 블로그는 스크립팅 언어의 프로그래밍 능력을 단 시간에 향상시키는 것을 돕기 위해 개설되었다.

  • 분류 전체보기 (725)
    • 프로그래밍 (605)
      • ASP (0)
      • BASIC (23)
      • BC (1)
      • Boo (21)
      • C (44)
      • C# (36)
      • C++ (57)
      • Ch (3)
      • Clojure (2)
      • Common Lisp (28)
      • D (5)
      • DHTML (0)
      • ErLang (2)
      • F# (31)
      • Flash (1)
      • Gnuplot (1)
      • Go (24)
      • GRails (0)
      • Groovy (34)
      • Haskell (13)
      • HTML5&CSS (0)
      • Io (14)
      • IronPython (4)
      • J# (0)
      • Java (36)
      • JavaFX (2)
      • Javascript (1)
      • JRuby (1)
      • JSP (1)
      • jQuery (0)
      • Julia (21)
      • Jytthon (3)
      • Lua (20)
      • LuaJava (0)
      • Mathematica (2)
      • Maxima (4)
      • Objective-C (17)
      • OCaml (26)
      • Octave (8)
      • Pascal (4)
      • Perl (1)
      • PHP (4)
      • PowerShell (2)
      • Python (49)
      • R (1)
      • Rails (0)
      • Razor (0)
      • Ruby (26)
      • Sage (1)
      • Scala (16)
      • Scheme (1)
      • SciLab (1)
      • SVG (2)
      • TeX (11)
    • 소개와 설치 (37)
      • 프로그래밍 언어 (4)
      • Boo (0)
      • Boost (1)
      • C++ (3)
      • Ch (0)
      • Clojure (1)
      • Common Lisp (0)
      • D (2)
      • Groovy (2)
      • F# (1)
      • GRails (2)
      • GSL (1)
      • Haskell (0)
      • HTML5 & CSS (0)
      • Io (1)
      • Java (0)
      • Jython (1)
      • Lua (2)
      • Mono (2)
      • MPIR (1)
      • Objective-C (0)
      • OCaml (3)
      • PARI-GP (0)
      • Python (2)
      • Rails (1)
      • Ruby (1)
      • Sage (0)
      • Scala (2)
      • Scheme (1)
      • Tomcat (1)
      • Xcas (1)
      • Rust (0)
      • Node-JS (0)
      • Kotlin (0)
      • BASIC (1)
    • 알고리즘 (6)
      • 수치해석 (1)
      • 선형대수 (0)
      • 암호학 (0)
      • 자료구조 (0)
      • 정수론 (3)
      • 피보나치 (2)
    • 역사 (8)
      • C (1)
      • C++ (1)
      • Groovy (2)
      • Haskell (1)
      • Io (0)
      • Java (1)
      • JRuby (0)
      • Jython (0)
      • Lua (0)
      • Python (1)
      • Ruby (1)
      • Scala (0)
    • 학습 (56)
      • 수학 (56)
    • 일반 (4)
      • 편집기 (2)
      • 사진 (1)
    • OS (운영체제) (1)

Tag

복소수계산, 행렬계산, 분수계산, 평방근, 복소수, MPIR, 팩토리얼, mathTeX, 행렬식, 역삼각함수, Python, 역쌍곡선함수, 부동소수점수, gmp, Haskell, 함수형 언어, 감마함수, 제곱근, latex, 입방근,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

  2025. 05  
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바

단축키

내 블로그

내 블로그 - 관리자 홈 전환
Q
Q
새 글 쓰기
W
W

블로그 게시글

글 수정 (권한 있는 경우)
E
E
댓글 영역으로 이동
C
C

모든 영역

이 페이지의 URL 복사
S
S
맨 위로 이동
T
T
티스토리 홈 이동
H
H
단축키 안내
Shift + /
⇧ + /

* 단축키는 한글/영문 대소문자로 이용 가능하며, 티스토리 기본 도메인에서만 동작합니다.