ubuntuusers.de

ich habe die Liste der Installationsbefehle als user weiter durchgeführt trotz vieler error Meldungen und whisper installieren können. mit help gibt es eine Liste mit Optionen ohne Erklärung. im Text steht das man Sprache direkt in Text wandeln kann, aber nicht wie. im Netz gibt es sehr viele Tutoriels. die ich bisher gefunden habe befassen sich nur mit Audio-Dateien.

https://github.com/mallorbc/whisper_mic

Das würde ich verwenden, da du ein venv im Einsatz hast, das dort installieren.

Using the command: whisper_mic --loop --dictate will type the words you say on your active cursor.

Laut issues haben Leute unter Linux Probleme. Ich verwende einfach whisper.cpp, da sind Beispiele zur Mikrofonnutzung direkt enthalten.

(whisper) wolf@kmul:~/Ordner1$ whisper_mic --loop --dictate+´
whisper_mic: Befehl nicht gefunden.

Link gelesen, was unter Setup steht, erledigt? Nach Durchsicht der Issues rate ich von der Anwendung aber eher ab, weil das hier getestet funktioniert:

Also ich habe eben nochmal stream von whisper.cpp getestet, das funktioniert.

./stream -m models/ggml-tiny.bin --language de --length 6000 -t 8
[..]
[Start speaking]
 Das ist ein Test.
 * Musik *

https://github.com/ggerganov/whisper.cpp

whisper.cpp wird von dem Mensch entwickelt, der auch llama.cpp entwickelt, sehr aktiv und jede menge Releases mit neuen Features und Fehlerbehebungen.

Das ist eine andere Anwendung zur Verwendung der Modelle, hat also nichts mit dem venv zu tun. Alle Infos zur Einrichtung stehen in den Readmes (auch in examples/stream ist eine, libsdl2-dev wird benötigt).

/stream -m models/ggml-tiny.bin --language de --length 6000 -t 8
bash: ./stream: Datei oder Verzeichnis nicht gefunden

whisper.cpp ist nur für Andreoid und leider nicht für Linux.

Supported platforms:
    Mac OS (Intel and Arm)
    iOS
    Android
    Java
    Linux / FreeBSD
    WebAssembly
    Windows (MSVC and MinGW]
    Raspberry Pi
    docker

Quelle: https://github.com/ggerganov/whisper.cpp

Logisch wird die Anwendung nicht gefunden, wenn du sie nicht auf deinem System hast.

nach 2 Tagen suchen und experimentieren habe ich gefunden das man zum Start von whisper ein script braucht das man selber schreiben muss. den Befehl um nach einem Neustart von kubuntu whisper zu aktivieren habe ich heraus gefunden. zu den options habe ich im Netz Liste mit Bedeutung gefunden, nur die stimmt mit den help-optiones von whisper nicht zusammen.

script:
#!/bin/sh
cd ~/whisper
source whisper/bin/activate
whispper options:
--task --{transcribe}
--device /dev/sda9 
--output_dir ~/whisper
,,,

Liste:
[--task {transcribe,translate}]
[--device DEVICE]

Test:
whisper: error: argument --task: expected one argument
/usr/local/bin/wh-start: 5: --device: not found

was muss ich da eintragen ?

zu whisper.cpp da gibt es nur sehr viele source-Teile de man ohne Anleitung experimentell zusammen stellen und compilieren muss. das dürfte wohl einige Wochen dauern. ich habe in vergangenen Berufsleben über 10 Jahre mit Linux C-Compiler Programme geschrieben.

wolf49 schrieb:

zu whisper.cpp da gibt es nur sehr viele source-Teile de man ohne Anleitung experimentell zusammen stellen und compilieren muss. das dürfte wohl einige Wochen dauern.

Ich lasse das nur auf der CPU laufen, deine make-Optionen unterscheiden siuch also von meinen (auf der Projektseite nachlesen), aber grundsätzlich ists damit getan, sofern alles, was zum Bau benötigt wird, bereits installiert ist (build-essential Paket):

git clone https://github.com/ggerganov/whisper.cpp.git
cd whisper.cpp
make WHISPER_OPENBLAS=1
sudo apt install libsdl2-dev
make stream WHISPER_OPENBLAS=1

Zu deinem Script kann ich nichts schreiben, da ich immer selbst in das Verzeichnis gewechselt habe, das venv aktivierte und per Strg R → whisper von einem früheren Aufruf ausging.

es geht nicht um das script sondern um die whisper options.

Ich weiß nicht, was so kompliziert sein soll an

source whispervenv/bin/activate

und dann whisper mit den Optionen aufzurufen, die für das was man dann gerade erledigen möchte, passen. Dafür braucht man ein Script, weil?

whisper: error: argument --task: expected one argument
/usr/local/bin/wh-start: 5: --device: not found

options werden nicht akzeptiert. was muss da stehen ? zu whisper.cppzu whisper.cpp root@kmul:/whisper.cpp# make WHISPER_OPENBLAS=1

ggml.c:294:10: fatal error: cblas.h: Datei oder Verzeichnis nicht gefunden
  294 | #include <cblas.h>
      |          ^~~~~~~~~
compilation terminated.
make: *** [Makefile:394: ggml.o] Fehler 1

verdooft schrieb:

Ich lasse das nur auf der CPU laufen, deine make-Optionen unterscheiden siuch also von meinen (auf der Projektseite nachlesen)

Dir ist klar, dass auf deinem System vermutlich die GPU (Grafikkarte) verwendet werden soll? Die make-Optionen sind entsprechend zu ändern. Für "NVIDIA GPU support" wäre das: WHISPER_CUDA=1 (CUDA Installation ist Voraussetzung), also:

WHISPER_CUDA=1 make

Lies dich einfach mal systematisch hier ein:

https://github.com/ggerganov/whisper.cpp

Auch wenn es darum geht, wie du an die Modelle (anderes Format als bei Whisper) kommst, ist das hilfreich.

Ach, und nochwas: wolf49 schrieb:

zu whisper.cppzu whisper.cpp root@kmul:/whisper.cpp# make WHISPER_OPENBLAS=1

Nicht als root, git clone, Kompilieren und Ausführen als normaler Linuxuser.

Tip: bei Befehlen immer voran schreiben root oder user <br> WHISPER_CPU=1 make # ???

https://github.com/ggerganov/whisper.cpp -> Linux / FreeBSD -> ???
bash ./models/download-ggml-model.sh base.en
bash ./models/download-ggml-model.sh large.de
make
bash ./models/download-ggml-model.sh base.en
bash ./models/download-ggml-model.sh large.de
........?????????????????????????????????????

Alles als normaler User, wenn mal was mit root-Rechten ausgeführt werden soll, verwende ich in meinen Instruktionen sudo. Modelle laden ergibt erst Sinn, wenn whisper.cpp erfolgreich gebaut wurde, ist das der Fall?

nein, (whisper) wolf@kmul:~/whisper.cpp$ make WHISPER_OPENBLAS=1 →

Coggml.c:294:10: fatal error: cblas.h: Datei oder Verzeichnis nicht gefunden
  294 | #include <cblas.h>
      |          ^~~~~~~~~
compilation terminated.
make: *** [Makefile:394: ggml.o] Fehler 1
de