Golang 截断浮点数 float32 / float64 到指定位数,多余的扔掉(math/big) 版本

yufei       4 年, 5 月 前       1317

这几天研究了下 math/big 版本的截断到指定位数

package main

import (
    "fmt"
    "os"
    "math/big"
)


func main() {
    num1 := os.Args[1];
    num2 := os.Args[2];

    n1,_:= new(big.Float).SetString(num1)
    n2,_:= new(big.Float).SetString(num2)
    n3 := new(big.Float).SetPrec(32).Quo(n1,n2).Text('f',9)

    fmt.Printf("%s\n",n3)
    fmt.Printf("%s\n",n3[:len(n3)-1])
}

运行结果如下

yufei:orderbook yufei$ go run b.go 2 3
0.666666667
0.66666666
yufei:orderbook yufei$ go run b.go 1 3
0.333333333
0.33333333
目前尚无回复
简单教程 = 简单教程,简单编程
简单教程 是一个关于技术和学习的地方
现在注册
已注册用户请 登入
关于   |   FAQ   |   我们的愿景   |   广告投放   |  博客

  简单教程,简单编程 - IT 入门首选站

Copyright © 2013-2022 简单教程 twle.cn All Rights Reserved.