CodeGeeX4/candle_demo
2024-07-15 23:03:55 -04:00
..
src 加入cuda支持 2024-07-15 23:03:55 -04:00
Cargo.lock 修改输出格式 (#1) 2024-07-15 14:37:16 -04:00
Cargo.toml Update Cargo.toml 2024-07-14 19:13:21 +08:00
README.md 加入cuda支持 2024-07-15 23:03:55 -04:00

CPU运行

cargo run --release -- --prompt your prompt

Cuda运行

  • 注意 需要cuda为>=12.4以上的版本
cargo build --release --features cuda
./target/release/codegeex4-candle --prompt your prompt