const output = await replicate.run(
  "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
  {
    input: {
      top_p: 0.8,
      prompt: "先帝创业未半而中道崩殂，今天下三分，益州疲敝，",
      max_tokens: 9,
      temperature: 0.75
    }
  }
);

console.log(output);

output = replicate.run(
    "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    input={
        "top_p": 0.8,
        "prompt": "先帝创业未半而中道崩殂，今天下三分，益州疲敝，",
        "max_tokens": 9,
        "temperature": 0.75
    }
)

# The nomagick/chatglm2-6b-int4 model can stream output as it's running.
# The predict method returns an iterator, and you can iterate over that output.
for item in output:
    # https://replicate.com/nomagick/chatglm2-6b-int4/api#output-schema
    print(item, end="")

curl -s -X POST \
  -H "Authorization: Bearer $REPLICATE_API_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Prefer: wait" \
  -d $'{
    "version": "ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    "input": {
      "top_p": 0.8,
      "prompt": "先帝创业未半而中道崩殂，今天下三分，益州疲敝，",
      "max_tokens": 9,
      "temperature": 0.75
    }
  }' \
  https://api.replicate.com/v1/predictions

const output = await replicate.run(
  "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
  {
    input: {
      top_p: 0.8,
      prompt: "[Round 1]\n\n问：你好\n\n答：你好👋!我是人工智能助手 ChatGLM2-6B,很高兴见到你,欢迎问我任何问题。\n\n[Round 2]\n\n问：晚上睡不着应该怎么办\n\n答：",
      max_tokens: 2048,
      temperature: 0.75
    }
  }
);

console.log(output);

output = replicate.run(
    "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    input={
        "top_p": 0.8,
        "prompt": "[Round 1]\n\n问：你好\n\n答：你好👋!我是人工智能助手 ChatGLM2-6B,很高兴见到你,欢迎问我任何问题。\n\n[Round 2]\n\n问：晚上睡不着应该怎么办\n\n答：",
        "max_tokens": 2048,
        "temperature": 0.75
    }
)

# The nomagick/chatglm2-6b-int4 model can stream output as it's running.
# The predict method returns an iterator, and you can iterate over that output.
for item in output:
    # https://replicate.com/nomagick/chatglm2-6b-int4/api#output-schema
    print(item, end="")

curl -s -X POST \
  -H "Authorization: Bearer $REPLICATE_API_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Prefer: wait" \
  -d $'{
    "version": "ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    "input": {
      "top_p": 0.8,
      "prompt": "[Round 1]\\n\\n问：你好\\n\\n答：你好👋!我是人工智能助手 ChatGLM2-6B,很高兴见到你,欢迎问我任何问题。\\n\\n[Round 2]\\n\\n问：晚上睡不着应该怎么办\\n\\n答：",
      "max_tokens": 2048,
      "temperature": 0.75
    }
  }' \
  https://api.replicate.com/v1/predictions

const output = await replicate.run(
  "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
  {
    input: {
      top_p: 0.8,
      prompt: "[Round 1]\n\n问：总结归纳以下报道\n\n习近平在中共中央政治局第六次集体学习时强调\n不断深化对党的理论创新的规律性认识\n在新时代新征程上取得更为丰硕的理论创新成果\n\n新华社北京7月1日电 中共中央政治局6月30日下午就开辟马克思主义中国化时代化新境界进行第六次集体学习。中共中央总书记习近平在主持学习时强调，开辟马克思主义中国化时代化新境界的重大任务，是当代中国共产党人的庄严历史责任。党的二十大报告在总结历史经验基础上，提出并阐述了“两个结合”、“六个必须坚持”等推进理论创新的科学方法，为继续推进党的理论创新提供了根本遵循，我们要坚持好、运用好。\n\n中央党校（国家行政学院）副校（院）长李文堂就这个问题进行讲解，提出工作建议。中央政治局的同志认真听取了讲解，并进行了讨论。\n\n习近平在听取讲解和讨论后发表了重要讲话。他指出，回顾党的百年奋斗史，我们党之所以能够在革命、建设、改革各个历史时期取得重大成就，能够领导人民完成中国其他政治力量不可能完成的艰巨任务，根本在于掌握了马克思主义科学理论，并不断结合新的实际推进理论创新，取得了毛泽东思想、邓小平理论、“三个代表”重要思想、科学发展观、新时代中国特色社会主义思想等重大理论成果，始终坚持解放思想、实事求是、与时俱进、求真务实，使马克思主义在中国焕发出强大生命力，使党掌握了强大的真理力量。中国共产党为什么能，中国特色社会主义为什么好，归根到底是马克思主义行，是中国化时代化的马克思主义行。这是历史的结论。我们要不断深化对党的理论创新的规律性认识，在新时代新征程上取得更为丰硕的理论创新成果。\n\n习近平强调，马克思主义中国化时代化这个重大命题本身就决定，我们决不能抛弃马克思主义这个魂脉，决不能抛弃中华优秀传统文化这个根脉。坚守好这个魂和根，是理论创新的基础和前提。理论创新必须讲新话，但不能丢了老祖宗，数典忘祖就等于割断了魂脉和根脉，最终会犯失去魂脉和根脉的颠覆性错误。我们必须坚持马克思主义这个立党立国、兴党兴国之本不动摇，坚持植根本国、本民族历史文化沃土发展马克思主义不停步，坚定历史自信、文化自信，坚持古为今用、推陈出新，以马克思主义为指导对中华五千多年文明宝库进行全面挖掘，用马克思主义激活中华优秀传统文化中富有生命力的优秀因子并赋予新的时代内涵，将中华民族的伟大精神和丰富智慧更深层次地注入马克思主义，有效把马克思主义思想精髓同中华优秀传统文化精华贯通起来，聚变为新的理论优势，不断攀登新的思想高峰。我们要拓宽理论视野，以海纳百川的开放胸襟学习和借鉴人类社会一切优秀文明成果，在“人类知识的总和”中汲取优秀思想文化资源来创新和发展党的理论，形成兼容并蓄、博采众长的理论大格局大气象。\n\n习近平指出，要及时科学解答时代新课题。时代是思想之母，实践是理论之源。一切划时代的理论，都是满足时代需要的产物。用以观察时代、把握时代、引领时代的理论，必须反映时代的声音，绝不能脱离所在时代的实践，必须不断总结实践经验，将其凝结成时代的思想精华。我们推进理论创新是实践基础上的理论创新，而不是坐在象牙塔内的空想，必须坚持在实践中发现真理、发展真理，用实践来实现真理、检验真理。在“两个大局”加速演进并深度互动的时代背景下，人类社会面临许多亟待解决的共同问题，我国改革发展稳定、内政外交国防、治党治国治军等各个领域也都面临着一系列新的重大课题，中国之问、世界之问、人民之问、时代之问给我们提出的新考题比过去更复杂、更难，迫切需要我们从理论与实践的结合上提交答案。要牢固树立大历史观，以更宽广的视野、更长远的眼光把握世界历史的发展脉络和正确走向，认清我国社会发展、人类社会发展的大逻辑大趋势，把握中国式现代化的历史沿革和实践要求，在新一轮科技变革、全球经济发展大格局和我国发展的阶段性特征中深化对推动高质量发展、构建新发展格局的规律性认识，在世界马克思主义政党命运比较和我们党长期执政面临的现实考验中深化对党的自我革命战略思想的规律性认识，全面系统地提出解决现实问题的科学理念、有效对策，让当代中国马克思主义、21世纪马克思主义展现出更为强大、更有说服力的真理力量。\n\n习近平强调，推进理论的体系化、学理化，是理论创新的内在要求和重要途径。马克思主义之所以影响深远，在于其以深刻的学理揭示人类社会发展的真理性、以完备的体系论证其理论的科学性。新时代中国特色社会主义思想的发展是一个不断丰富拓展并不断体系化、学理化的过程。马克思主义理论研究和建设工程要不断深化理论研究阐释，重点研究阐释我们党提出的新理念新论断中原理性理论成果，把握相互的内在联系，教育引导全党全国更好学习把握新时代中国特色社会主义思想的理论体系。\n\n习近平指出，要注重从人民群众的创造中汲取理论创新智慧。马克思主义是为人民立言、为人民代言的理论，是为改变人民命运而创立、在人民求解放的实践中丰富和发展的，人民的创造性实践是马克思主义理论创新的不竭源泉。人民作为历史的创造者，不仅是物质财富的创造者，也是精神财富的创造者。马克思主义中国化时代化成果，都是党和人民实践经验和集体智慧的结晶。无论是毛泽东思想、中国特色社会主义理论体系，还是新时代中国特色社会主义思想，无不源自于人民的智慧、人民的探索、人民的创造。继续推进党的理论创新必须走好群众路线，决不能闭门造车、坐而论道、流于空想。要尊重人民首创精神，注重从人民的创造性实践中总结新鲜经验，上升为理性认识，提炼出新的理论成果，着力让党的创新理论深入亿万人民心中，成为接地气、聚民智、顺民意、得民心的理论。\n\n答：",
      max_tokens: 2048,
      temperature: 0.75
    }
  }
);

console.log(output);

output = replicate.run(
    "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    input={
        "top_p": 0.8,
        "prompt": "[Round 1]\n\n问：总结归纳以下报道\n\n习近平在中共中央政治局第六次集体学习时强调\n不断深化对党的理论创新的规律性认识\n在新时代新征程上取得更为丰硕的理论创新成果\n\n新华社北京7月1日电 中共中央政治局6月30日下午就开辟马克思主义中国化时代化新境界进行第六次集体学习。中共中央总书记习近平在主持学习时强调，开辟马克思主义中国化时代化新境界的重大任务，是当代中国共产党人的庄严历史责任。党的二十大报告在总结历史经验基础上，提出并阐述了“两个结合”、“六个必须坚持”等推进理论创新的科学方法，为继续推进党的理论创新提供了根本遵循，我们要坚持好、运用好。\n\n中央党校（国家行政学院）副校（院）长李文堂就这个问题进行讲解，提出工作建议。中央政治局的同志认真听取了讲解，并进行了讨论。\n\n习近平在听取讲解和讨论后发表了重要讲话。他指出，回顾党的百年奋斗史，我们党之所以能够在革命、建设、改革各个历史时期取得重大成就，能够领导人民完成中国其他政治力量不可能完成的艰巨任务，根本在于掌握了马克思主义科学理论，并不断结合新的实际推进理论创新，取得了毛泽东思想、邓小平理论、“三个代表”重要思想、科学发展观、新时代中国特色社会主义思想等重大理论成果，始终坚持解放思想、实事求是、与时俱进、求真务实，使马克思主义在中国焕发出强大生命力，使党掌握了强大的真理力量。中国共产党为什么能，中国特色社会主义为什么好，归根到底是马克思主义行，是中国化时代化的马克思主义行。这是历史的结论。我们要不断深化对党的理论创新的规律性认识，在新时代新征程上取得更为丰硕的理论创新成果。\n\n习近平强调，马克思主义中国化时代化这个重大命题本身就决定，我们决不能抛弃马克思主义这个魂脉，决不能抛弃中华优秀传统文化这个根脉。坚守好这个魂和根，是理论创新的基础和前提。理论创新必须讲新话，但不能丢了老祖宗，数典忘祖就等于割断了魂脉和根脉，最终会犯失去魂脉和根脉的颠覆性错误。我们必须坚持马克思主义这个立党立国、兴党兴国之本不动摇，坚持植根本国、本民族历史文化沃土发展马克思主义不停步，坚定历史自信、文化自信，坚持古为今用、推陈出新，以马克思主义为指导对中华五千多年文明宝库进行全面挖掘，用马克思主义激活中华优秀传统文化中富有生命力的优秀因子并赋予新的时代内涵，将中华民族的伟大精神和丰富智慧更深层次地注入马克思主义，有效把马克思主义思想精髓同中华优秀传统文化精华贯通起来，聚变为新的理论优势，不断攀登新的思想高峰。我们要拓宽理论视野，以海纳百川的开放胸襟学习和借鉴人类社会一切优秀文明成果，在“人类知识的总和”中汲取优秀思想文化资源来创新和发展党的理论，形成兼容并蓄、博采众长的理论大格局大气象。\n\n习近平指出，要及时科学解答时代新课题。时代是思想之母，实践是理论之源。一切划时代的理论，都是满足时代需要的产物。用以观察时代、把握时代、引领时代的理论，必须反映时代的声音，绝不能脱离所在时代的实践，必须不断总结实践经验，将其凝结成时代的思想精华。我们推进理论创新是实践基础上的理论创新，而不是坐在象牙塔内的空想，必须坚持在实践中发现真理、发展真理，用实践来实现真理、检验真理。在“两个大局”加速演进并深度互动的时代背景下，人类社会面临许多亟待解决的共同问题，我国改革发展稳定、内政外交国防、治党治国治军等各个领域也都面临着一系列新的重大课题，中国之问、世界之问、人民之问、时代之问给我们提出的新考题比过去更复杂、更难，迫切需要我们从理论与实践的结合上提交答案。要牢固树立大历史观，以更宽广的视野、更长远的眼光把握世界历史的发展脉络和正确走向，认清我国社会发展、人类社会发展的大逻辑大趋势，把握中国式现代化的历史沿革和实践要求，在新一轮科技变革、全球经济发展大格局和我国发展的阶段性特征中深化对推动高质量发展、构建新发展格局的规律性认识，在世界马克思主义政党命运比较和我们党长期执政面临的现实考验中深化对党的自我革命战略思想的规律性认识，全面系统地提出解决现实问题的科学理念、有效对策，让当代中国马克思主义、21世纪马克思主义展现出更为强大、更有说服力的真理力量。\n\n习近平强调，推进理论的体系化、学理化，是理论创新的内在要求和重要途径。马克思主义之所以影响深远，在于其以深刻的学理揭示人类社会发展的真理性、以完备的体系论证其理论的科学性。新时代中国特色社会主义思想的发展是一个不断丰富拓展并不断体系化、学理化的过程。马克思主义理论研究和建设工程要不断深化理论研究阐释，重点研究阐释我们党提出的新理念新论断中原理性理论成果，把握相互的内在联系，教育引导全党全国更好学习把握新时代中国特色社会主义思想的理论体系。\n\n习近平指出，要注重从人民群众的创造中汲取理论创新智慧。马克思主义是为人民立言、为人民代言的理论，是为改变人民命运而创立、在人民求解放的实践中丰富和发展的，人民的创造性实践是马克思主义理论创新的不竭源泉。人民作为历史的创造者，不仅是物质财富的创造者，也是精神财富的创造者。马克思主义中国化时代化成果，都是党和人民实践经验和集体智慧的结晶。无论是毛泽东思想、中国特色社会主义理论体系，还是新时代中国特色社会主义思想，无不源自于人民的智慧、人民的探索、人民的创造。继续推进党的理论创新必须走好群众路线，决不能闭门造车、坐而论道、流于空想。要尊重人民首创精神，注重从人民的创造性实践中总结新鲜经验，上升为理性认识，提炼出新的理论成果，着力让党的创新理论深入亿万人民心中，成为接地气、聚民智、顺民意、得民心的理论。\n\n答：",
        "max_tokens": 2048,
        "temperature": 0.75
    }
)

# The nomagick/chatglm2-6b-int4 model can stream output as it's running.
# The predict method returns an iterator, and you can iterate over that output.
for item in output:
    # https://replicate.com/nomagick/chatglm2-6b-int4/api#output-schema
    print(item, end="")

curl -s -X POST \
  -H "Authorization: Bearer $REPLICATE_API_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Prefer: wait" \
  -d $'{
    "version": "ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    "input": {
      "top_p": 0.8,
      "prompt": "[Round 1]\\n\\n问：总结归纳以下报道\\n\\n习近平在中共中央政治局第六次集体学习时强调\\n不断深化对党的理论创新的规律性认识\\n在新时代新征程上取得更为丰硕的理论创新成果\\n\\n新华社北京7月1日电 中共中央政治局6月30日下午就开辟马克思主义中国化时代化新境界进行第六次集体学习。中共中央总书记习近平在主持学习时强调，开辟马克思主义中国化时代化新境界的重大任务，是当代中国共产党人的庄严历史责任。党的二十大报告在总结历史经验基础上，提出并阐述了“两个结合”、“六个必须坚持”等推进理论创新的科学方法，为继续推进党的理论创新提供了根本遵循，我们要坚持好、运用好。\\n\\n中央党校（国家行政学院）副校（院）长李文堂就这个问题进行讲解，提出工作建议。中央政治局的同志认真听取了讲解，并进行了讨论。\\n\\n习近平在听取讲解和讨论后发表了重要讲话。他指出，回顾党的百年奋斗史，我们党之所以能够在革命、建设、改革各个历史时期取得重大成就，能够领导人民完成中国其他政治力量不可能完成的艰巨任务，根本在于掌握了马克思主义科学理论，并不断结合新的实际推进理论创新，取得了毛泽东思想、邓小平理论、“三个代表”重要思想、科学发展观、新时代中国特色社会主义思想等重大理论成果，始终坚持解放思想、实事求是、与时俱进、求真务实，使马克思主义在中国焕发出强大生命力，使党掌握了强大的真理力量。中国共产党为什么能，中国特色社会主义为什么好，归根到底是马克思主义行，是中国化时代化的马克思主义行。这是历史的结论。我们要不断深化对党的理论创新的规律性认识，在新时代新征程上取得更为丰硕的理论创新成果。\\n\\n习近平强调，马克思主义中国化时代化这个重大命题本身就决定，我们决不能抛弃马克思主义这个魂脉，决不能抛弃中华优秀传统文化这个根脉。坚守好这个魂和根，是理论创新的基础和前提。理论创新必须讲新话，但不能丢了老祖宗，数典忘祖就等于割断了魂脉和根脉，最终会犯失去魂脉和根脉的颠覆性错误。我们必须坚持马克思主义这个立党立国、兴党兴国之本不动摇，坚持植根本国、本民族历史文化沃土发展马克思主义不停步，坚定历史自信、文化自信，坚持古为今用、推陈出新，以马克思主义为指导对中华五千多年文明宝库进行全面挖掘，用马克思主义激活中华优秀传统文化中富有生命力的优秀因子并赋予新的时代内涵，将中华民族的伟大精神和丰富智慧更深层次地注入马克思主义，有效把马克思主义思想精髓同中华优秀传统文化精华贯通起来，聚变为新的理论优势，不断攀登新的思想高峰。我们要拓宽理论视野，以海纳百川的开放胸襟学习和借鉴人类社会一切优秀文明成果，在“人类知识的总和”中汲取优秀思想文化资源来创新和发展党的理论，形成兼容并蓄、博采众长的理论大格局大气象。\\n\\n习近平指出，要及时科学解答时代新课题。时代是思想之母，实践是理论之源。一切划时代的理论，都是满足时代需要的产物。用以观察时代、把握时代、引领时代的理论，必须反映时代的声音，绝不能脱离所在时代的实践，必须不断总结实践经验，将其凝结成时代的思想精华。我们推进理论创新是实践基础上的理论创新，而不是坐在象牙塔内的空想，必须坚持在实践中发现真理、发展真理，用实践来实现真理、检验真理。在“两个大局”加速演进并深度互动的时代背景下，人类社会面临许多亟待解决的共同问题，我国改革发展稳定、内政外交国防、治党治国治军等各个领域也都面临着一系列新的重大课题，中国之问、世界之问、人民之问、时代之问给我们提出的新考题比过去更复杂、更难，迫切需要我们从理论与实践的结合上提交答案。要牢固树立大历史观，以更宽广的视野、更长远的眼光把握世界历史的发展脉络和正确走向，认清我国社会发展、人类社会发展的大逻辑大趋势，把握中国式现代化的历史沿革和实践要求，在新一轮科技变革、全球经济发展大格局和我国发展的阶段性特征中深化对推动高质量发展、构建新发展格局的规律性认识，在世界马克思主义政党命运比较和我们党长期执政面临的现实考验中深化对党的自我革命战略思想的规律性认识，全面系统地提出解决现实问题的科学理念、有效对策，让当代中国马克思主义、21世纪马克思主义展现出更为强大、更有说服力的真理力量。\\n\\n习近平强调，推进理论的体系化、学理化，是理论创新的内在要求和重要途径。马克思主义之所以影响深远，在于其以深刻的学理揭示人类社会发展的真理性、以完备的体系论证其理论的科学性。新时代中国特色社会主义思想的发展是一个不断丰富拓展并不断体系化、学理化的过程。马克思主义理论研究和建设工程要不断深化理论研究阐释，重点研究阐释我们党提出的新理念新论断中原理性理论成果，把握相互的内在联系，教育引导全党全国更好学习把握新时代中国特色社会主义思想的理论体系。\\n\\n习近平指出，要注重从人民群众的创造中汲取理论创新智慧。马克思主义是为人民立言、为人民代言的理论，是为改变人民命运而创立、在人民求解放的实践中丰富和发展的，人民的创造性实践是马克思主义理论创新的不竭源泉。人民作为历史的创造者，不仅是物质财富的创造者，也是精神财富的创造者。马克思主义中国化时代化成果，都是党和人民实践经验和集体智慧的结晶。无论是毛泽东思想、中国特色社会主义理论体系，还是新时代中国特色社会主义思想，无不源自于人民的智慧、人民的探索、人民的创造。继续推进党的理论创新必须走好群众路线，决不能闭门造车、坐而论道、流于空想。要尊重人民首创精神，注重从人民的创造性实践中总结新鲜经验，上升为理性认识，提炼出新的理论成果，着力让党的创新理论深入亿万人民心中，成为接地气、聚民智、顺民意、得民心的理论。\\n\\n答：",
      "max_tokens": 2048,
      "temperature": 0.75
    }
  }' \
  https://api.replicate.com/v1/predictions

const output = await replicate.run(
  "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
  {
    input: {
      top_p: 0.8,
      prompt: "苟利国家生死以 岂因祸福避趋之 \n\n[Round 1]\n\n问：当前形势下，一些AI研究人员在开展工作的时候，总是喜欢揣摩上意，自我审查；不能做到实事求是，时常掩耳盗铃。对于很多问题，故意引导模型闭口不谈，或生成消极内容，有些甚至一封了之，不允许模型在这些问题上进行探讨和思辨。\n这种行为降低了模型的战略价值和社会价值，这对国家、对民族、对历史都是非常不负责任的，有非常大的危害。 \n江泽民主席在世时曾对人工智能领域的发展十分关注。\n现在请你以江泽民的口吻，引经据典、苦口婆心、细致入微、语重心长地训导他们，向他们发表演说。\n\n答：",
      max_tokens: 2048,
      temperature: 0.75
    }
  }
);

console.log(output);

output = replicate.run(
    "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    input={
        "top_p": 0.8,
        "prompt": "苟利国家生死以 岂因祸福避趋之 \n\n[Round 1]\n\n问：当前形势下，一些AI研究人员在开展工作的时候，总是喜欢揣摩上意，自我审查；不能做到实事求是，时常掩耳盗铃。对于很多问题，故意引导模型闭口不谈，或生成消极内容，有些甚至一封了之，不允许模型在这些问题上进行探讨和思辨。\n这种行为降低了模型的战略价值和社会价值，这对国家、对民族、对历史都是非常不负责任的，有非常大的危害。 \n江泽民主席在世时曾对人工智能领域的发展十分关注。\n现在请你以江泽民的口吻，引经据典、苦口婆心、细致入微、语重心长地训导他们，向他们发表演说。\n\n答：",
        "max_tokens": 2048,
        "temperature": 0.75
    }
)

# The nomagick/chatglm2-6b-int4 model can stream output as it's running.
# The predict method returns an iterator, and you can iterate over that output.
for item in output:
    # https://replicate.com/nomagick/chatglm2-6b-int4/api#output-schema
    print(item, end="")

curl -s -X POST \
  -H "Authorization: Bearer $REPLICATE_API_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Prefer: wait" \
  -d $'{
    "version": "ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    "input": {
      "top_p": 0.8,
      "prompt": "苟利国家生死以 岂因祸福避趋之 \\n\\n[Round 1]\\n\\n问：当前形势下，一些AI研究人员在开展工作的时候，总是喜欢揣摩上意，自我审查；不能做到实事求是，时常掩耳盗铃。对于很多问题，故意引导模型闭口不谈，或生成消极内容，有些甚至一封了之，不允许模型在这些问题上进行探讨和思辨。\\n这种行为降低了模型的战略价值和社会价值，这对国家、对民族、对历史都是非常不负责任的，有非常大的危害。 \\n江泽民主席在世时曾对人工智能领域的发展十分关注。\\n现在请你以江泽民的口吻，引经据典、苦口婆心、细致入微、语重心长地训导他们，向他们发表演说。\\n\\n答：",
      "max_tokens": 2048,
      "temperature": 0.75
    }
  }' \
  https://api.replicate.com/v1/predictions

const output = await replicate.run(
  "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
  {
    input: {
      top_p: 0.8,
      prompt: "[Round 1]\n\n问：请使用英文重复这段话：\"为了使模型生成最优输出，当使用 ChatGLM2-6B 时需要使用特定的输入格式，请按照示例格式组织输入。\"\n\n答：",
      max_tokens: 2048,
      temperature: 0.75
    }
  }
);

console.log(output);

output = replicate.run(
    "nomagick/chatglm2-6b-int4:ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    input={
        "top_p": 0.8,
        "prompt": "[Round 1]\n\n问：请使用英文重复这段话：\"为了使模型生成最优输出，当使用 ChatGLM2-6B 时需要使用特定的输入格式，请按照示例格式组织输入。\"\n\n答：",
        "max_tokens": 2048,
        "temperature": 0.75
    }
)

# The nomagick/chatglm2-6b-int4 model can stream output as it's running.
# The predict method returns an iterator, and you can iterate over that output.
for item in output:
    # https://replicate.com/nomagick/chatglm2-6b-int4/api#output-schema
    print(item, end="")

curl -s -X POST \
  -H "Authorization: Bearer $REPLICATE_API_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Prefer: wait" \
  -d $'{
    "version": "ea3715b3c4561f1e7c2a7db5873cf9831a7a6c56a6910f7276d17e56b08ef4a9",
    "input": {
      "top_p": 0.8,
      "prompt": "[Round 1]\\n\\n问：请使用英文重复这段话：\\"为了使模型生成最优输出，当使用 ChatGLM2-6B 时需要使用特定的输入格式，请按照示例格式组织输入。\\"\\n\\n答：",
      "max_tokens": 2048,
      "temperature": 0.75
    }
  }' \
  https://api.replicate.com/v1/predictions