floating-point

0열

1답변

HLSL에서 float를 unorm으로 변환

픽셀 쉐이더의 기능처럼 깊이 스텐실을 구현하려고합니다. 나는 정규화 된 깊이 값을 가지고 있고, 그래서처럼 SM5 InterlockedMin() 작업을 사용하기 위해 정수로 변환 할 : dnorm는 깊이 값이다 uint d_uint = (uint)(dnorm * 4294967295); uint d_uint_original = 0; Interlocked

graphics floating-point type-conversion hlsl 2017-02-26

---

0열

1답변

Airwatch를 통해 부동 소수점 App Config 값 푸시하는 방법

Airwatch (MDM/모바일 장치 관리 솔루션)를 통해 배포되는 iOS 앱을 구현했으며 앱을 업데이트하는 과정에서 앱 구성의 특정 측면 Airwatch에서 푸시 될 수 있습니다. Airwatch는 iOS에서도 구현되는 App Config 표준 (https://www.appconfig.org/ios/ 참조)을 지원합니다. String, Int 및 두 개의

ios xml floating-point mdm airwatch 2017-02-28

---

-2열

2답변

각 직렬화되지 않은 64 비트 정수를 비트와 동등한 64 비트 부동 소수점 숫자로 변환해야합니다.

위의 명령문을 참조하고 있습니다. 예상 출력은 두 배입니다. 내 문제와 관련있는 것을 찾지 못했습니다. 이 항목을 찾았습니다. Passing a structure through Sockets in C 해당 항목이 있으면 알 수 없습니다. 해당 int64 값을 읽지 않습니다. 나는 다른 과정에서 그것을 얻고 있는데 그것은 그것이 설계된 방식이다. int의 직

c++ serialization floating-point deserialization bitwise-operators 2017-03-02

---

-1열

1답변

C를 사용하여이 과학 표기법을 십진수 양식으로 변환하는 방법

다음 코드에서 출력 result은 6.075378E-05을 생성합니다. 나는 당신이 원하는 형식 문자열로 ToString(string)를 사용하여 결과의 ​​캐릭터 라인 표현을 수정할 수 있습니다 :, 0.48으로 (그것이 무엇이든) float var1 = 70081.13; float var2 = 752912.4; float result = (var1/

c# floating-point 2017-03-02

---

0열

1답변

float - Python 3을 사용하여 문자열을 변환 할 수 없습니다.

저는 솔루션이 쉽지만 어떻게 든 보통 float은 작동하지 않는다고 확신합니다. 떠 문자열을 변환 할 수 없습니다 : output = open('output.txt', 'wt') with open('input.txt', 'r') as file: file = file.readlines() for x in range(0,len(file)):

python string python-3.x floating-point 2017-03-03

---

0열

2답변

0에서 1 사이의 부동 소수점 수를 문자열로 변환 할 때 왜 0이 없습니까?

Oracle 데이터베이스에서는 숫자 형식 (17, 2)의 열에 숫자 0.5를 저장합니다. 그리고 Java 프로그램 (mybatis와 함께)을 사용하여 읽고 엔티티 객체의 문자열 필드로 저장합니다. 이 문자열 필드의 값은 "0.5"가 아니고 "0.5"가 아닙니다. ".5"는 부동 소수점 숫자의 표준 표현이며 대부분의 프로그래밍 언어에서 숫자 0.5로 직접 변

java oracle floating-point 2017-03-03

---

2열

2답변

자바에서 세 개의 소수점이있는 부동 소수점으로 문자열을 구문 분석하는 방법

float에 소수점 3 개를 사용하는 방법이 있지만 문자열 표현 "4.00000009"를 작성하려면 어떻게해야합니까? 나는 그것을 부유물로 바꾼다? Float.parseFloat()은 4.0으로 반올림합니다. 여분의 라이브러리를 사용하지 않는 것이 이상적입니다.

java floating-point 2017-03-04

---

-2열

1답변

파이썬에서 (float 값 필드를 사용하여) 사전 목록을 정렬하는 방법은 무엇입니까?

파이썬의 사전 목록에이 값 집합이 있습니다. [ {'dep_price': '42.350', 'dep_date': '8-Mar-2017', 'trip_type': 'dep'}, {'dep_price': '42.350', 'dep_date': '9-Mar-2017', 'trip_type': 'dep'}, {'dep_price': '36.350', 'dep

python sorting floating-point 2017-03-05

---

-1열

1답변

IEEE-754 부동 소수점 수 반올림 기법

여기 IEEE-754 부동 소수점 표현의 둥근 수 및 수호 수에 대한 질문입니다. 표준에 따르면 계산을 위해 두 개의 추가 자릿수가 예약되어 있습니다. 시점 이후 두 자릿수 가능한 가정하기 2.3400 + 0.0256 -------- 2.3656 가드가 5 라운드 6이고 56> (50) 이후, 다음 100로 반올림 그러므로 결과 그러

floating-point ieee-754 2017-03-06

---

1열

1답변

예외를 처리 한 후 컨텍스트를 복구하는 작업은 VS/RTC (런타임 검사)에서만 작동합니다.

여기서 내 마지막 목표는 부동 소수점 예외를 catch하고 스택 추적을 인쇄하고 부동 소수점 예외를 사용하여 실행을 다시 시작하는 방법을 제공하는 것입니다 (결과가 아닌 유한/비 - 값을 사용). 나는 내 original question 이후로 약간 진전을 보였습니다. SSE (기본값은 x64)를 사용할 때 부동 소수점 단위를 지우거나 구성하기 위해 조정해

floating-point structured-exception 2017-03-06

---