「ELYZA-japanese-Llama-2-70b」開発における、大規模モデル学習ノウハウの解説
Zenn · 2024-09-01
はじめに こんにちは。ELYZAの研究開発チームのSam (@SamPassaglia)、佐々木 (@hikomimo)です。 今年の3月に我々は、日本語に特化した700億パラメータの大規模言語モデル「ELYZA-japanese-Llama-2-70b」を開発し、日本語タス
はじめに こんにちは。ELYZAの研究開発チームのSam (@SamPassaglia)、佐々木 (@hikomimo)です。 今年の3月に我々は、日本語に特化した700億パラメータの大規模言語モデル「ELYZA-japanese-Llama-2-70b」を開発し、日本語タス
今回はReactが初回マウントされるまでの実装を私自身が学習した流れに沿って解説したいと思います。「React Internals Deep Dive」というブログ記事がReactの内部実装を知るのに大変参考になります。 https://jser.dev/series/react
※ 前職の月額単価80万円を基準に、7ヶ月分の工数として560万円相当と換算。BizRank※キャッシュがなくてコールドスタートとなる場合があります。その場合レスポンスが返るまでに2~3分ほどか…
プログラミング言語Rubyの普及と発展のための非営利団体であるRubyアソシエーションは、Rubyの処理系やライブラリなどを改善する開発プロジェクトに助成金を提供する「Rubyアソシエーション 開発助成金2024」の公募開始を発表しました。...
AWSは、VMwareからAWSへの移行支援を強化したプログラム「AWS Migration Acceleration Program for VMware」を発表しました。 AWSは以前から「AWS Migration Accelerat...
はじめに先日Kaggleで行われた『LLM 20 Questions』にソロで参加し、832チーム中9位（上位1.1%）の成績となり、金メダルを獲得しました。また、このたびの成績によって、Kagg…
<a href="https://docs.timetime.in/blog/js-dates-finally-fixed/">https://docs.timetime.in/blog/js-dates-finally-fixed/</a><br /> <p>ECMAScrip
この文章はなに? 本文章は、パスワードマネージャーであるBitwardenが公開しているソースコードを読み、そこでE2EE(End-to-end encryption)がどのように実装されているかについて、私が理解した内容をまとめたものです。 「E2EEをぼんやり理解してるが
はじめに 本記事は、今回筆者が作成したHaskellのエフェクトシステムライブラリの背景を説明するものです。Haskellに触れたことがない読者のために、理解に必要な事柄や文法等は記事中で簡単に説明します。Haskellやライブラリ自体に興味がなくとも、エフェクトシステムの紹
はじめに今回はじめてNext.jsを使用したアプリの開発をしました。今まではReactとViteという組み合わせで作成することが多かったので、Next.jsに慣れておらず、苦戦しながらもなんとか…
最近、Slackのフォントが変わりましたね。自分は前のフォントの方が良かったので元に戻す方法を残しておきます。結論Slackの適当なチャンネルに /slackfont Lato と打ち込み送信す…
こんにちは、Watanabe Jin(@Sicut_study)です。突然ですが、みなさんは健康でしょうか？私は今年27歳になったのですが、健康診断が大荒れしています。4年前に視力が右2.0…
課題姿勢制御では、yaw,roll,pitchの3次元での計算が必要です。行列での記述ができると何かと都合がよいです。姿勢制御をPid制御で行うと想定して、ターゲットのRaspi Zero W…
はじめにこんにちは！MaTTaです。この度、「面接シミュレータR」というミニアプリを開発しました！AIを活用したリアルな面接シミュレーションを通じて、未経験エンジニアや転職希望のジュニアエンジ…
<a href="https://github.com/hoppergee/heic-to?tab=readme-ov-file">https://github.com/hoppergee/heic-to?tab=readme-ov-file</a><br /> <p>libhe
はじめに この記事では、普段私が業務で利用している可視化手段のTableau、Sigma、Streamlitについてそれぞれの特徴をまとめていこうと思います。 私自身は2016年からTableauを使い始め、最近からStreamlitとSigmaを触り始めたという状況です。
はじめに こんにちは。calloc134 です。 自分は普段 React を利用してフロントエンドの開発をしています。 SPA のルーティングを実装する上で、TanStack Router を利用することが多いです。 この使い方について、簡単にまとまったドキュメントが思ったよ
<a href="https://zenn.dev/akfm/books/nextjs-basic-principle">https://zenn.dev/akfm/books/nextjs-basic-principle</a><br /> <p>Next.jsのServer
ANGEL Calendar開幕！2024年ANGEL Dojo参加者用アドベントカレンダー「ANGEL Calendar」スタートしました〜！ https://qiita.com/har1101…
<a href="https://web.dev/blog/common-misconceptions-lcp?hl=en">https://web.dev/blog/common-misconceptions-lcp?hl=en</a><br /> <p>Largest Con
<a href="https://developers.cyberagent.co.jp/blog/archives/49429/">https://developers.cyberagent.co.jp/blog/archives/49429/</a><br /> <p>Nex
JavaScript、たくさんバックエンドで使われてますよね、あなたも使ったことはありませんか？ そんな バックエンドでも使われている JavaScript。そこに標準で組み込まれている Web 標準な API 。それを考えていきます。 Web 標準 とは何か Web を構成
<a href="https://github.com/webpack/webpack/security/advisories/GHSA-4vvj-4cpr-p986">https://github.com/webpack/webpack/security/advisories/
はじめにこの記事では、先日Kaggleで行われた『LLM 20 Questions』の上位ソリューションについてまとめます。LLMとゲームAIが合わさったコンペティションでした。https://…